Отправлено _Bill 06 июня 2006 г. 16:52 В ответ на: Расчеты несложные: перещитать значение с АЦП. Вот только результат получается от 5 до 10 с точностью до второго знака. Переходить на long что-ли и считать от 500 до 1000. Ведь при шкалировании может получиться 1000*1000=1000000 в int уже невлазит. отправлено vanessa 06 июня 2006 г. 15:51

• Я для этой цели широко пользуюсь рациональными двоичными дробями — =AVR=   (06.06.2006 17:23 80.92.96.19, 367 байт)
  • Интересный подход. А если коефициенты (0.9876 из вашего примера) в процессе работы меняються (перекалибровали датчик) как тогда пару подбирать ? — vanessa   (06.06.2006 18:22 82.207.59.190, пустое)
    • Не подбирать, а вычислять - что-то ни разу не видел родных калибровочных коэффициентов в плавучке. Нужна бОльшая точность - пожалуйста, 32-бит целочисленная арифметика на все случаи жизни за глаза — =AVR=   (06.06.2006 18:41 80.92.96.19, пустое)
      • Не совсем понял Вашу арифметику. В Вашем примере x*64723 > 65536. — vanessa   (06.06.2006 20:13 82.207.59.190, 255 байт)
        • Именно так. Кроме того, там я механически ошибся - не оттуда copy/paste сделал, см. внутри — =AVR=   (06.06.2006 21:28 80.92.96.19, 1576 байт)
          • Блин, устал сегодня. Опять описка - в примере надо MSW, а не LSW — =AVR=   (07.06.2006 00:07 80.92.96.19, 95 байт)
            • Вот до чего людей голый асм доводит.. — PlainUser   (07.06.2006 11:55 62.148.235.50, пустое)
      • Спасибо, баду разбиратся... — vanessa   (06.06.2006 18:51 82.207.59.190, пустое)

E-mail: info@telesys.ru