Отправлено AU 22 июня 2004 г. 09:09

Оказывается, погрешность шкалы 17 LSB.
У нас опора 4,096В, соответсвенно при Gain10x можно замерить 0,409...0,410 В.
==============================================================
Оказалось, что 0,409...0,410 В. соответствует 498-500 ед АЦП,
(тогда как вся шкала 511 единиц!!!)
А 511 ед соответсвует 0,431В на входе, и при этом унутренний усилитель ATmega128 начинает дополнительно врать на 2-3%...

А так линейность красивая до невозможности = -0 /+1 LSB!!!!
Ну иногда, изредка +/-1 LSB (0-10% диапазона)

• Т.е. по Datasheet погрешность масштаба эдак с 3% в дифф. режиме :-( — AU   (22.06.2004 09:10, пустое)