Re-re-salut à tous !
Jean-Baptiste FAURE a écrit :
Sauf erreur OOo est codé en C++, donc je parie que les calculs de CALC sont faits en virgule flottante avec des types "double" (8 octets sur une machine 32 bits) soit 13 à 15 chiffres significatifs.
Je vais t'inquiéter : les calculs sont, en effet, généralement fait en double précision. Toutefois, les valeurs sont stockées en simple précision.
La précision obtenue sur le résultat final dépend aussi beaucoup des algorithmes utilisés. Il y a plusieurs façons de faire une division, d'extraire une racine carrée, de calculer une exponentiation, une fonction trigonométrique etc. Chacune a ses avantages et ses inconvénients en terme de précision et de rapidité.
Sans oublier qu'elle dépend aussi du mode d'arrondis, sachant que la norme IEE 754 en propose, de manière standard, 4. Cela dit, il est rare d'utiliser un autre mode d'arrondis que l'arrondi au plus proche (qui n'est pas forcément celui qui donnera la meilleur précision).
À bientôt.
Yoann LE BARS,
alias Le Farfadet Spatial--------------------------------------------------------------------- To unsubscribe, e-mail: [EMAIL PROTECTED] For additional commands, e-mail: [EMAIL PROTECTED]
