Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-22 Diskussionsfäden Thomas

Nino Novak schrieb:

Moin,

habe ein Konto, von dem ich jeweiligen Buchungsbetrag und den 
dazugehörigen (von der Bank mitgeteilten) Saldo als Werte in einer 
Calc-Tabelle speichere. Als Gegenrechnung überprüfe ich, ob bei einer 
manuellen Addition der Buchungen derselbe Saldo heraus käme und lasse 
mir Abweichungen rot hinterlegen (bedingte Formatierung). Das geht 
schon seit Jahren gut, jetzt (mit OOo 2.4.1 oder 3.0) sind plötzlich 
eigenartige Rechenfehler an der 12. Stelle hinter dem Komma 
aufgetaucht, die von der bedingten Formatierung teilweise erkannt 
werden, teilweise nicht.
  

Hallo Nino,

noch ein Lösungsvorschlag: In C2: =RUNDEN($B$327+SUMME(A2:$A$326);2)

Damit wird auf die ohnehin nur 2 vorhandenen Nachkommastellen gerundet. 
Ist eventuell besser,

wenn Du das Ergebnis weiter verwenden willst.

Ahoi

Thomas

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-22 Diskussionsfäden Nino Novak
Moin Thomas,

On Sunday 22 February 2009 14:14, Thomas wrote:

 noch ein Lösungsvorschlag: In C2: =RUNDEN($B$327+SUMME(A2:$A$326);2)

 Damit wird auf die ohnehin nur 2 vorhandenen Nachkommastellen
 gerundet. Ist eventuell besser,
 wenn Du das Ergebnis weiter verwenden willst.

Danke. Ich wäre nicht auf die Idee mit dem Hardware-Rechenfehler 
gekommen, vor allem, weil die Zahlen alle wirklich nur 2 Stellen haben.

Jetzt hab ich zwar ein Bewußtsein dafür. Allerdings kapiere ich noch 
nicht ganz, warum der Fehler an dieser Stelle auftrat. Ich hätte 
vermutet, dass die Summenbildung mittels SUMME() anfälliger ist für so 
einen Fehler als eine Summe aus zwei - zumindest dem Anschein nach - 
korrekten zweistelligen Zahlen. 

Auch entspricht der Fehler irgendwie nicht meiner Erfahrung. Eine Summe 
aus zweistelligen Zahlen, zu der ich eine weitere zweistellige Zahl 
addiere, sollte zum selben Ergebnis führen, wie wenn ich eine 
zweistellige Zahl zu einer zweiten addiere. Das stimmt irgendwie 
nicht (vom Gefühl).

Das Ganze bleibt also trotzdem noch etwas unklar für mich.

Danke Euch trotzdem für Eure Antworten.

Viele Grüße
Nino

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-22 Diskussionsfäden Guenter Wallnig

Hallo Nino

Nino Novak schrieb:

...
Danke. Ich wäre nicht auf die Idee mit dem Hardware-Rechenfehler 
gekommen, vor allem, weil die Zahlen alle wirklich nur 2 Stellen haben.


Das Problem kommt m.W. daher, daß unsere gewohnten Zahlen im 
Dezimalsystem zur Berechnung in das binäre System umgerechnet werden. da 
entstehen schon mal Rundungsfehler, bzw. nicht abbrechende Dezimalbrüche.


Jetzt hab ich zwar ein Bewußtsein dafür. Allerdings kapiere ich noch 
nicht ganz, warum der Fehler an dieser Stelle auftrat ...

...
... sollte zum selben Ergebnis führen, wie wenn ich eine 
zweistellige Zahl zu einer zweiten addiere. Das stimmt irgendwie 
nicht (vom Gefühl).


Das Ganze bleibt also trotzdem noch etwas unklar für mich.


ich hoffe, ich konnte die Problematik etwas aufhellen

MfG
Günter

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-21 Diskussionsfäden Nino Novak
Moin Wolfgang,

On Saturday 21 February 2009 00:22, wolfgang pechlaner wrote:
 Hallo Nino,

  Hallo Nino,
 
  Nino Novak schrieb:
  Das geht schon seit Jahren gut, jetzt (mit OOo 2.4.1 oder 3.0)
  sind plötzlich eigenartige Rechenfehler an der 12. Stelle hinter
  dem Komma aufgetaucht, die von der bedingten Formatierung
  teilweise erkannt werden, teilweise nicht.

 Habe ganz vergessen, dir den Lösungsansatz zu mailen:
 nicht a=b
 sondern ABS(a-b) 0.001

Danke! Funktioniert!

Schöne Grüße
Nino

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



[de-users] Calc macht eigenartigen Rechenfehler

2009-02-20 Diskussionsfäden Nino Novak
Moin,

habe ein Konto, von dem ich jeweiligen Buchungsbetrag und den 
dazugehörigen (von der Bank mitgeteilten) Saldo als Werte in einer 
Calc-Tabelle speichere. Als Gegenrechnung überprüfe ich, ob bei einer 
manuellen Addition der Buchungen derselbe Saldo heraus käme und lasse 
mir Abweichungen rot hinterlegen (bedingte Formatierung). Das geht 
schon seit Jahren gut, jetzt (mit OOo 2.4.1 oder 3.0) sind plötzlich 
eigenartige Rechenfehler an der 12. Stelle hinter dem Komma 
aufgetaucht, die von der bedingten Formatierung teilweise erkannt 
werden, teilweise nicht.

Meiner Ansicht nach sind die REchenfehler ein fehlerhaftes Verhalten - 
wer mag sich das mal anschauen? 

Eine Beispielsdatei hab ich unter 
http://ninonovak.de/ooo/CalcRechenfehler.ods abgelegt. Dort ist
Spalte A: Buchungsbetrag (von unten nach oben fortlaufend)
Spalte B: Saldo 
(sollte immer der Summe aus letztem Saldo plus Buchungsbetrag
 entsprechen)
Spalte C: 
Kontrollspalte (Anfangssaldo minus aufsummierte Buchungen bis jetzt)

Zum Austesten hab ich ein paar Werte aus Spalte B und Spalte C in die 
Spalten D und E gespiegelt, hier aber die Anzeige 15-stellig 
formatiert. Wie man sieht, weisen die Werte in den obersten 6 Reihen an 
der 12 Stelle eine Ungenauigkeit auf. 
Bei einer Aufteilung der in Spalte C gebildeten Summe auf die beiden 
Summanden entsteht diese Ungenauigkeit noch nicht (Spalte F und G), 
sehr wohl aber, wenn man diese beiden (genauen) Werte addiert (H).

Gruß Nino


-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-20 Diskussionsfäden wolfgang pechlaner

Hallo Nino,

Nino Novak schrieb:
Das geht schon seit Jahren gut, jetzt (mit OOo 2.4.1 oder 3.0) sind plötzlich 
eigenartige Rechenfehler an der 12. Stelle hinter dem Komma 
aufgetaucht, die von der bedingten Formatierung teilweise erkannt 
werden, teilweise nicht.


  
Das ist kein Calc-Problem, sondern ein Problem der Darstellung von 
Gleitpunktzahlen. Die Genauigkeit der Darstellung ist ungefähr die 14. 
Stelle. Daher können,- hardwarebedingt - Rundungsfehler entstehen.


Grüße
wolfgang

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org



Re: [de-users] Calc macht eigenartigen Rechenfehler

2009-02-20 Diskussionsfäden wolfgang pechlaner

Hallo Nino,

Hallo Nino,

Nino Novak schrieb:
Das geht schon seit Jahren gut, jetzt (mit OOo 2.4.1 oder 3.0) sind 
plötzlich eigenartige Rechenfehler an der 12. Stelle hinter dem Komma 
aufgetaucht, die von der bedingten Formatierung teilweise erkannt 
werden, teilweise nicht.


  

Habe ganz vergessen, dir den Lösungsansatz zu mailen:
nicht a=b
sondern ABS(a-b) 0.001

Grüße
wolfgang

-
To unsubscribe, e-mail: users-unsubscr...@de.openoffice.org
For additional commands, e-mail: users-h...@de.openoffice.org