pensa que la mantisa del punto flotante tiene un limite dado por la cantidad
de bits
hay numeros de punto flotante que no pueden ser representados de forma
*exacta* en potencias de 2 (la parte despues de la coma se representa por un
polinomio con exponentes negativos de 2)
los números que vos ves como 2.3 o 0.3 al ser pasados al formato de punto
flotante quizas pierden precision por el redondeo
el error se genera porque no todo número se puede representar con este
polinimio (en teoría con una sumatoria infintia si)
obviamente cuando hagas la resta, el error se propaga
saludos
--------------------------------------------------
From: "Gonzalo Merayo" <[EMAIL PROTECTED]>
Sent: Friday, April 25, 2008 2:37 PM
To: "Una lista para consultas de programación"
<[email protected]>
Subject: Re: [Prog] aritmética en lenguajes interpretados
Los numeros de punto flotante son asi.
podes pasarte a usar punto fijo o al mostrar usar redondeo.
sds
On Fri, Apr 25, 2008 at 2:31 PM, Emilio Astarita
<[EMAIL PROTECTED]> wrote:
En un programa en JS estaba tratando de que la resta aritmética de
"2.3 - 0.3" en Mozilla me de "2", pero obtengo "1.9999999999999998".
El mismo resultado en x86 Ubuntu Firefox 3 Beta 5 y Firefox 2.
Después probé elisp de emacs, y en python y siempre da lo mismo.
A que se debe?
Gracias.
_______________________________________________
Lista de correo Programacion.
[email protected]
http://listas.fi.uba.ar/mailman/listinfo/programacion
_______________________________________________
Lista de correo Programacion.
[email protected]
http://listas.fi.uba.ar/mailman/listinfo/programacion
--
No virus found in this incoming message.
Checked by AVG.
Version: 7.5.524 / Virus Database: 269.23.4/1397 - Release Date:
25/04/2008 07:42 a.m.
__________________________________________________
Correo Yahoo!
Espacio para todos tus mensajes, antivirus y antispam ¡gratis!
¡Abrí tu cuenta ya! - http://correo.yahoo.com.ar
_______________________________________________
Lista de correo Programacion.
[email protected]
http://listas.fi.uba.ar/mailman/listinfo/programacion
