судя по всему т.к. на 64 бит точнее при отсутствии округлении ошибка меньше...как правильно надо делать? («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

судя по всему т.к. на 64 бит точнее при отсутствии округлении ошибка меньше...как правильно надо делать?

(«Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Отправлено Извращенец 05 февраля 2005 г. 19:52
В ответ на: а вот компилятор десктоповский делает отправлено Извращенец 05 февраля 2005 г. 19:50

Составить ответ ||| Конференция ||| Архив

Ответы

Правильно - оценить ошибку округления/усечения в конкретной задаче и выбрать (+) — SM (05.02.2005 20:34, 111 байт)
Это частный случай. — undefined (05.02.2005 20:03, пустое)
- я понял...тут случайно получилось так...а как правильнее делать? — Извращенец (05.02.2005 20:07, пустое)
  - Правильно - считать на 80 битах мантиссы все, и только в самом конце формулы обрубать до нужной длины с округлением отбрасываемой части — undefined (05.02.2005 20:29, 52 байт)

Перейти к списку ответов ||| Конференция ||| Архив ||| Главная страница ||| Содержание ||| Без кадра

E-mail: info@telesys.ru