Отправлено Кирилл 14 октября 2002 г. 09:19

//прибор ATmega163
//К примеру, делаю так:
float x=0.0000123456;
//Вывожу на ЖКИ, все ок.(в процедуре вывода использую умножение на 10)
//Но поосле следующего:
x+=1;
// выводится какая-то муть
1.00001257213

Такое ощущение, что имеется ограничение на кол-во значящих цифр.

• Ответ: нехватка точности. float имеет размер всего 32 бита (-) — CDAlex   (14.10.2002 10:36, пустое)
• Ответ: Sorry. Не то, а вот то... — Kimmel   (14.10.2002 09:58, 409 байт)
  • А вотумел бы такие штуки делать вручную - никаких проблем бы не возникло ;О) (учись работать на АСМе ;О) — mse   (14.10.2002 12:04, пустое)
    • А тебе не слабо реализовать хотя-бы извлечение корня на асме? — Кирилл   (14.10.2002 13:50, пустое)
      • а что, есть проблемы? ;О) — mse   (14.10.2002 13:57, пустое)
        • проблем нет, времени жалко — Кирилл   (14.10.2002 14:12, пустое)
          • Ну, извиняй ... — mse   (14.10.2002 14:19, 42 байт, ссылка)
        • проблем нет, времени жалко — Кирилл   (14.10.2002 14:12, пустое)
    • пардон, это не Вам а Кириллу ;О) — mse   (14.10.2002 12:28, пустое)
  • Ответ: В CodeVision тоже есть тип double, но тоже 4 байта :)) — Кирилл   (14.10.2002 11:15, пустое)
  • спасибо, уяснил — Кирилл   (14.10.2002 10:38, пустое)
• Ответ: Вот. Держи прямые ГОСТ-овские полиномы. Рабочие — Kimmel   (14.10.2002 09:48, пустое)