Отправлено =AVR= 06 июня 2006 г. 17:23 В ответ на: long - вполне нормальный вариант. отправлено _Bill 06 июня 2006 г. 16:52

x*0.9876 = x*9876/10000 ~~ x*64723/65536 = (x*9876) >> 16 или просто x=LSW(x*9876). Десятичную точку в результате ставлю куда надо, а при масштабировании выбираю такую пару числитель/знаменатель, чтобы промежуточный результат был как можно ближе к наибольшему int (65536), но не переполнял бы его. Точность практически не теряется, просто получается передискретизация

• Интересный подход. А если коефициенты (0.9876 из вашего примера) в процессе работы меняються (перекалибровали датчик) как тогда пару подбирать ? — vanessa   (06.06.2006 18:22 82.207.59.190, пустое)
  • Не подбирать, а вычислять - что-то ни разу не видел родных калибровочных коэффициентов в плавучке. Нужна бОльшая точность - пожалуйста, 32-бит целочисленная арифметика на все случаи жизни за глаза — =AVR=   (06.06.2006 18:41 80.92.96.19, пустое)
    • Не совсем понял Вашу арифметику. В Вашем примере x*64723 > 65536. — vanessa   (06.06.2006 20:13 82.207.59.190, 255 байт)
      • Именно так. Кроме того, там я механически ошибся - не оттуда copy/paste сделал, см. внутри — =AVR=   (06.06.2006 21:28 80.92.96.19, 1576 байт)
        • Блин, устал сегодня. Опять описка - в примере надо MSW, а не LSW — =AVR=   (07.06.2006 00:07 80.92.96.19, 95 байт)
          • Вот до чего людей голый асм доводит.. — PlainUser   (07.06.2006 11:55 62.148.235.50, пустое)
    • Спасибо, баду разбиратся... — vanessa   (06.06.2006 18:51 82.207.59.190, пустое)

E-mail: info@telesys.ru