Hallo, ich verzweifle an den Rechenfehlern.
ich will aus einer Tabelle Werte auslesen und vergleichen. Doch obwohl die Werte gleich sind gibt der Vergleich immer einen Fehler. ( auf der x. Stelle nach dem Komma) Das ist ein Problem der Fließkommazahlen, ich weiß. Aber das dürfte trotzdem nicht sein.
Ich habe verschiedenes versucht, die Zahlen umzuwandeln z.B. REM 1. Versuch SNeu= -256.34 dd=(sNeu*100) '25634 d=fix(sNeu*100) '25633 Vbetrag= -124.98 Salt=-131.36 diff0=sneu-salt '-124,98 diff= fix(sNeu*100) - fix(sAlt*100) '-12497 vb=fix(vbetrag*100) '12498 vergleich=(vb<>diff) 'true REM und noch mal mit den gleichen Zahlen in anderer Reihenfolge SNeu= -256.34 Vbetrag= -124.98 Salt=-131.36 dd=(sNeu*100) '25634 d=fix(sNeu*100) '25633 'ddd=int(sNeu*100) '25634 diff0=sneu-salt '-124,98 diff= int(sNeu*100) - fix(sAlt*100) '-12498 vb=fix(vbetrag*100) '12498 vergleich=(vb<>diff) 'false REM und andere Zahlen Vbetrag= 265.34 Sneu=0 Salt=-256.34 dd=(sNeu*100) '25634 d=fix(sNeu*100) '25633 ddd=int(sNeu*100) '25634 diff0=sneu-salt '-124,98 diff= int(sNeu*100) - fix(sAlt*100) '-12497 vb=fix(vbetrag*100) '12498 vergleich=(vb<>diff) 'true '''''''''''''' Mit INT und anderen Zahlen gibt es ähnliche Probleme. Ich verzweifele! Was kann ich machen? Horst