Le 25/02/2005 12:58, christianwtd a écrit :
Sauf erreur OOo est codé en C++, donc je parie que les calculs de CALC sont faits en virgule flottante avec des types "double" (8 octets sur une machine 32 bits) soit 13 à 15 chiffres significatifs.Bonjour à tous,
Je ne pensais pas faire avancer le schmilblic dans cette discussion. De fait il avance peu. Ce qu'il manque, mais je n'ai peut-être pas sû trouver l'info, c'est surtout des renseignements sur les modes de calculs.
Si on connais le nombre d'octets et les différents modes (entiers, décimales) de calculs, on doit pouvoir définir à l'avance le degré de précision des calculs. C'est un élément absent, dommage.
Ce n'est là que mon humble avis.
Bon surf Christian
Je pense qu'on doit pouvoir trouver les détails de la représentation machine des nombres dans n'importe quel bon manuel de C ou de Fortran dédié au calcul numérique. L'idée genérale est toujours la même, une puissance de 2 multipliée par une combinaison linéaire de puissances négatives de 2 (la mantisse), mais les détails dépendent des machines (32bits, 64 bits, pentium, RISC, etc.), en particulier le nombre de bits affectés à la mantisse.
La précision obtenue sur le résultat final dépend aussi beaucoup des algorithmes utilisés. Il y a plusieurs façons de faire une division, d'extraire une racine carrée, de calculer une exponentiation, une fonction trigonométrique etc. Chacune a ses avantages et ses inconvénients en terme de précision et de rapidité.
--
Jean-Baptiste FAURE Cemagref - Unité de Recherche Hydrologie-Hydraulique
Tel: 04 72 20 87 76 - Fax: 04 78 47 78 75 - Web: http://www.lyon.cemagref.fr
Cemagref-Lyon 3bis, quai Chauveau C.P.220 69336 Lyon cedex09 FRANCE
--------------------------------------------------------------------- To unsubscribe, e-mail: [EMAIL PROTECTED] For additional commands, e-mail: [EMAIL PROTECTED]
