Hallo Ernst, *, On Wed, Nov 6, 2019 at 6:00 PM Ernst Hügli <ernst.hue...@bluewin.ch> wrote: > Am 06.11.19 um 13:14 schrieb Wolfgang Jäth: > > Am 06.11.2019 um 11:54 schrieb Ernst Hügli: > > Genau genommen 6,853159851301100000 bzw. 6,855813953488360000; die > > Differenz beträgt also nicht, wie du fälschlich vermutest, 0,01 (6.85 > > vs. 6.86), sondern eine ganze Zehnerpotenz weniger, nämlich > > 0,002654102187259260 Sekunden, oder genauer gesagt > > 0,00000003071877531550 Tage, denn in dieser Einheit werden Zeit- und > > Datumswerte gespeichert. Abweichungen in der *8* *Stelle* hinter dem > > Komma klingen für mich aber eher nach einem *Rundungsfehler*, nicht nach > > einem /Rechenfehler/. > > […] > > Was die Abweichung der beiden Werte an geht, würde ich spontan darauf > > tippen, dass entweder eines der beiden eingesetzten Geräte nur ein > > 32bit-System ist, […] > > Ich habe Wolfgang per PM mitgeteilt, dass sein Beitrag nichts zur > Thematik beiträgt, weil er am Problem vorbeigeht. Also bitte unbeachtet > lassen.
Im Gegenteil - der hat sehr wohl etwas damit zu tun. Ich tippe genauso wie er auf eine 32bit vs 64bit Version - denn da gibt es einen Unterschied bei der floating-point berechnung zwischen x87 auf 32bit vs Berechnung via SSE2-Erweiterungen auf 64bit Die haben unterschiedliche Präzision / unterschiedlich große interne Register und somit unterschiedliche Rundungsfehler bei der Berechnung. Und auch mit dem Hinweis, dass Datums/Zeitwerte in einer Tabellenkalkulation in Einheiten von Tagen repräsentiert werden ist hier wichtig: Denn dadurch hast du bei Werten im Sekundenbereich eben kleine Fließkommazahlen. Würdest Du anstattdessen mit den Sekundenwerten selbst rechnen, also mit Ganzzahlen kommt es bei Berechnung des Mittelwerts nur einmal zu einer Fließkommazahl (bei der Division durch die Anzahl der Werte), während bei Datumswerten selbst die Summe mit Fließkommazahlen berechnet werden muss) - und da treten einfach prinzipiell Rundungsfehler auf. Abhängig von den konkreten Werten heben die sich ggf. auf oder summieren sich. Wolfgangs Antwort also als "am Problem vorbei" zu bezeichnen ist für mich nicht nachvollziehbar. Er hat nur insofern "unrecht" als dass die 32bit FPU mehr bits für die Berechnung hat und somit theoretisch genauer rechnet als die SSE2 Instruktionen, die können dafür mehr auf einmal/sind um ein vielfaches schneller... ciao Christian -- Liste abmelden mit E-Mail an: users+unsubscr...@de.libreoffice.org Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/ Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de Listenarchiv: https://listarchives.libreoffice.org/de/users/ Datenschutzerklärung: https://www.documentfoundation.org/privacy
