Hallo Mirko,
Mirko Luethge schrieb am 29.03.2018 um 15:51:
Hallo, ich habe mit Excel eine Fibonacci-Folge generiert. Bis zum 74. Glied funktioniert auch alles, das 75. Glied wird aber falsch berechnet. Nr. 73 : 4984 54011879 264 Nr. 74 : 8065 1553 3049 393 Excel : Nr. 75 : 1304 9695 4492 8660 Wie man leicht sieht (Nr. 75 = Nr. 73 + Nr. 74), ist der tatsächliche Wert .... 657, also um Drei kleiner. Falsches Zahlenformat ist ausgeschlossen, ev. Rundungsfehler ? Proc. i7, Win 8.1(64) Irgendeine Idee ?
Calc rechnet intern mit Zahlen im Format "double". Das ergibt eine Genauigkeit von maximal 15 Ziffern. Wenn du eine höhere Genauigkeit benötigst, ist ein Büro-Tabellenkalkulationsprogramm prinzipiell nicht geeignet.
Mit freundlichem Gruß Regina --------------------------------------------------------------------- To unsubscribe, e-mail: users-de-unsubscr...@openoffice.apache.org For additional commands, e-mail: users-de-h...@openoffice.apache.org
