Vítor Luís Pauda da Silva escreveu:
Pessoal,
encontrei um bug no resultado deste cálculo numa aplicação desktop:
<mx:Button label="Resultado é..." id="btnConverte"
click="_btnConverte.label=String(0.621371 * 1e2_)"/>
O resultado correto deveria ser *62.1371* e dá *62.137100000000004*.
e se eu sobstituir o operando 0.621371 por 0.6213711, dá como
resultado *62.1370999999999*.
O operando *1e2* equivale a *100*, pois é igual a *1 * 10^2*.
Atenciosamente,
Vítor Luís
--
Você recebeu esta mensagem porque está inscrito na lista "flexdev"
Para enviar uma mensagem, envie um e-mail para flexdev@googlegroups.com
Para sair da lista, envie um email em branco para
flexdev-unsubscr...@googlegroups.com
Mais opções estão disponíveis em http://groups.google.com/group/flexdev
Vitor,
Realmente trabalhar com ponto flutuante em qualquer linguagem é meio
complicado, essa semana passei pelo mesmo problema, usando java com
campo Double tive que converter todos para BigDecimal e trocar na base
de dados (Postgresql) de float8 para Numeric (escala e precisão).
Sempre calculos matematicos dê preferencia para processar no backend da
sua aplicação é o método mais confiável.
--
Atenciosamente,
Beto
+55 61 4063.6303 | 61 8409.1775
Brasília - DF, Brasil
Web Inovações
www.webinovacoes.com.br
--
Você recebeu esta mensagem porque está inscrito na lista "flexdev"
Para enviar uma mensagem, envie um e-mail para flexdev@googlegroups.com
Para sair da lista, envie um email em branco para
flexdev-unsubscr...@googlegroups.com
Mais opções estão disponíveis em http://groups.google.com/group/flexdev
