On 2005-02-25 11:18:38 +0100, Vincent Lefevre wrote:
> Si tu entends par là que c'est censé émuler un système à virgule fixe
> en base 10, alors en fait, ce n'est pas tout à fait vrai, même lorsque
> les calculs sont très simples. Il peut y avoir des erreurs, avec des
> calculs du genre 1.33 / 2, car le résultat exact correspond à la

Oops, je voulais dire 2.33 / 2 (et remplacer 1.33 par 2.33 ci-dessous).

> frontière entre deux arrondis. Si la conversion de 1.33 en base 2 (pour
> calculs internes) donne une valeur inférieure à 1.33, on obtiendra le
> résultat 1.16; si elle est supérieure à 1.33, on obtiendra le résultat
> 1.17. Bref, suivant le nombre de départ, le comportement est très
> dépendant de l'arithmétique utilisée en interne.

Je viens de tester, et en fait, ce qui est affiché pour les nombres
de la forme (2n+1)/100 (i.e. les nombres décimaux avec 2 chiffres
après la virgule, dont le 2e est impair), quand on les divise par 2,
c'est toujours l'arrondi du résultat par excès sur la valeur absolue[*]
(ce qui est la règle de base en calcul financier lorsque le résultat
exact est exactement entre deux nombres représentables, il me semble).

[*] "away from 0"

Du coup, je me demande, comme Christian, de quelle manière sont faits
les calculs. OpenOffice est un logiciel open source, donc on peut
toujours regarder le source...

-- 
Vincent Lefèvre <[EMAIL PROTECTED]> - Web: <http://www.vinc17.org/>
100% accessible validated (X)HTML - Blog: <http://www.vinc17.org/blog/>
Work: CR INRIA - computer arithmetic / SPACES project at LORIA

---------------------------------------------------------------------
To unsubscribe, e-mail: [EMAIL PROTECTED]
For additional commands, e-mail: [EMAIL PROTECTED]

Reply via email to