Николай Кузнецов wrote: > Насколько я понимаю, и у компа (процессора) и у любой программы есть > предел точности вычислений. Раньше это было 7 знаков после запятой и > двойная точность - 14 знаков после запятой. > > До запятой тоже есть ограничения (по-моему, общее число знаков не д.б. > больше 32 - включая десятичный разделитель). > > Обратное преобразование идёт, видимо, верно: > 1,23Е+... - берёт 14 знаков после запятой + перед запятой один - того > пятнадцать значащих цифр (спереди назад), остальные забиваются нулями. > > Что касается преобразования длинных чисел в научный формат - надо > смотреть опции и хелп... > > Спасибо!
Все почти точно, НО: учитываются не знаки до/после запятой, а значащие цифры. Точность -- около 14 значащих цифр (около а не точно из-за перевода из двоичной системы в десятичную). -- Best regards, Eugene Saenko mailto:[EMAIL PROTECTED] _____________________________________________________ Oo-discuss mailing list Oo-discuss at openoffice.ru https://lists.openoffice.ru/mailman/listinfo/oo-discuss
