Отправлено Kostya 04 марта 2004 г. 00:43

Работаю с IAR, AVR. В переменную типа флоат записываю число 5.4e-8, смотрю в дебугере дату память. Это число состоит из следующих байт: 33 67 ED A1. Взял из этих байт мантиссу и экспоненту, посчитал на калькуляторе
(1+мантисса*10^-7)*2^(экспонента - 127) и получилось 5.01008e-8. Почему такая большая разница или чего я делаю неправильно?

• (-1)^S*2^(Exponent-127)*1.Mantissa, где — Бендер++   (04.03.2004 09:54, 217 байт)
• А ваще зачем тебе это ! Все правильно IAR считает !!! ;-) — miv   (04.03.2004 08:01, пустое)
• Ответ: У ты какой хитрый, а цифры для мантиссы как считал не забыл что там 1 битик скрытый ? — miv   (04.03.2004 07:59, пустое)
  • Ответ: Че значит скрытый бит? — Kostya   (04.03.2004 11:02, 258 байт)
    • Ответ: — Oman   (04.03.2004 19:43, 414 байт)
    • Другого и не дано:) — Bill   (04.03.2004 15:09, пустое)