чудес не бывает - 24бит мантисса - погрешность ~+/-6Е-8, что и наблюдаем ;О)
(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

миниатюрный аудио-видеорекордер mAVR

Отправлено mse 14 мая 2003 г. 15:36
В ответ на: Сталкнулся с каким-то геморроем в IAR C для AVR в плавающей точке. Чудеса какие-то. Инициализирую double 10.1234, а потом считываю 10.123399. С какой стати? C float еще чище, когда вводил с клавы число, потом sscanf, то число в итоге отличалось еще круче - на единицы с долями. Что за бред? Потом перешел только на double и atof, стало получше, но все равно есть какие-то траблы. Кто-нить юзал плавающую, как быть? отправлено Чувачок 14 мая 2003 г. 13:31


Составить ответ  |||  Конференция  |||  Архив

Ответы



Перейти к списку ответов  |||  Конференция  |||  Архив  |||  Главная страница  |||  Содержание  |||  Без кадра

E-mail: info@telesys.ru