Es passiert auch wenn man zwei Doubles multipliziert

dim d as double= 189
dim d1 as double=20

msgbox(d*d1) ergibt hier auch 3779,999
Ist vielleicht auch Prozessorabhängig, auf jeden Fall sehr unschön.

Was könnte man da machen? ich brauche eine präzise Multiplikation

LG

Stefan



Am 02.07.2013 um 11:12 schrieb Christian Schmitz 
<[email protected]>:

> 
> Am 02.07.2013 um 10:25 schrieb Stefan Sicurella <[email protected]>:
> 
>> Du musst es über den Funktionsaufruf machen...
>> 
>> Function runden_schweiz(myFloatValue as double) As double
>> dim d as Double
>> d = myFloatValue*20
>> msgbox str(d) // zeigt 37779,77 an anstatt 3780,00
> 
> bei mir zeigt es 3780.
> 
>> return floor(d)/20
> 
> nimm doch mal round hier.
> 
> 
> Gruß
> Christian
> 
> -- 
> MBS Xojo Developer Conference 2013
> 
> More details and registration here:
> http://www.monkeybreadsoftware.de/realbasic/events/
> 
> 
> 
> 
> 
> 
> 


Antwort per Email an