Hallo Jörn
Am 02.03.2011 08:16, schrieb Jörn Clausen:
Moin Alle zusammen,
beim Arbeiten ist mir gerade ein Fehler auf gefallen.
In einer Tabelle schreiben Sie die Zahl 92,4 in ein Feld und in der
darunter liegende die Zahl 96,6.
Danach markieren Sie die beiden Felder und ziehen mit der Maus unten
rechts auf Autoausfüllen das Feld runter bis 386,40. Danach werden Sie
feststellen, das ab der Zahl 264,6 ein Rundungsfehler auftritt.
Die Zahlen danach verlieren 0,01
Vielleicht wussten Sie das noch nicht und ich hoffe das ich damit helfen
konnte.
Einen schönen Gruß aus dem hohen Norden
Jörn Clausen
--
Dass hängt mit der internen Darstellung der Zahlen zusammen. Ist daher
kein Fehler.
Intern werden Gleitpunktzahlen bei den Prozessoren mit 48 Bit Mantisse
dargestellt, dass heißt, an der 14 Stelle tritt ein Rundungsfehler auf.
Wenn nun viele Zahlen z.B. addiert werden, addiert sich natürlich auch
dieser Fehler, und irgendwann wird er sichtbar.
Grüße aus Wien
Wolfgang
--
------------------------------------------------------------------------
To unsubscribe, e-mail: dev-unsubscr...@de.openoffice.org
For additional commands, e-mail: sy...@de.openoffice.org with Subject: help
