Procura por "Erro ao Transformar String para Number" ..
pra ser mais especifico o Gustavo Kawamoto portou uma versão da BigDecimal
em javascript para o AS3:
http://code.google.com/p/as3bigdecimal/
2010/5/27 beto fiote
> Vítor Luís Pauda da Silva escreveu:
>
> Pessoal,
>> encontrei um bug no
Vítor Luís Pauda da Silva escreveu:
Pessoal,
encontrei um bug no resultado deste cálculo numa aplicação desktop:
click="_btnConverte.label=String(0.621371 * 1e2_)"/>
O resultado correto deveria ser *62.1371* e dá *62.1371004*.
e se eu sobstituir o operando 0.621371 por 0.6213711,
Não há arredondamento, o resultado é errado mesmo!
Os valores dos operandos são originais.
Como: *0,621371 * 1e2 *é igual a* 62,1371004*?
Como: *0,6213711 * 1e2 *é igual 1* 62.137109*?
Já o cálculo abaixo funciona corretamente:
*0,621372 * 1e2 *é igual a* 62,1372*?
Nota: o opera
Use a função Math.floor para arredondar o valor
Em 26 de maio de 2010 15:24, Mário Júnior escreveu:
> Acho q pelo contrário, não é uma *imprecisão* mas uma *precisao*.
> O valor exibido foi o valor preciso, enquanto vc esperava por um valor
> "arredondado".
>
> Essas questoes matemá
Acho q pelo contrário, não é uma *imprecisão* mas uma *precisao*.
O valor exibido foi o valor preciso, enquanto vc esperava por um valor
"arredondado".
Essas questoes matemáticas estão relacionadas com todas as linguagens, dá
uma olhada em:
http://en.wikipedia.org/wiki/Floating_point
Vai ver q e
Pessoal,
encontrei um bug no resultado deste cálculo numa aplicação desktop:
O resultado correto deveria ser *62.1371* e dá *62.1371004*.
e se eu sobstituir o operando 0.621371 por 0.6213711, dá como resultado *
62.13709*.
O operando *1e2* equivale a *100*, pois é igual a *1
