Отправлено Kostofey 17 марта 2006 г. 14:01 В ответ на: Ну, тогда код в студию! отправлено _Bill 17 марта 2006 г. 13:51

for(uchar i=0;i<20;i++)
{
if((Result[i] >= Pmax) && (Result[i+1] < Pmax))
{
CoeffA=(Result[i]-Result[i+1])/20;
break;
};
};
<>
Result - массив float на 60 элементов проц мега32 стек 0х200 куча 0х100

• А что-то типа (float)CoeffA=( (float)Result[i]- (float)Result[i+1])/ (float)20; пробовали? — MrSerg   (17.03.2006 14:35 80.95.38.197, пустое)
  • :)) данная паранойя совершенно лишняя — ы   (17.03.2006 14:41 80.92.98.211, пустое)
    • А Вы уверены , что типы переменных у Kostofey не перепутаны. Может CoeffA не float. :)) — MrSerg   (17.03.2006 14:52 80.95.38.197, пустое)
      • Это как раз неважно. — =DDD=   (17.03.2006 15:24 81.3.156.42, пустое)
• Еще вопрос: Вы как результат смотрите? Откуда у Вас такие выводы? — _Bill   (17.03.2006 14:24 193.233.83.90, пустое)
  • сорри срочно пришлось убегать .. смотрел в авр студио и переменные не путал все что нужно стоит в float — kostofey   (17.03.2006 18:17 193.17.208.254, пустое)
• ну у float мантисса 3 байта, сами посчитайте какая точность вычислений. Плохая точность будет особенно заметно когда одно число от другого сильно отличается по размерности — Elektronik   (17.03.2006 14:04 194.85.99.225, пустое)
  • Если 3 байта то мин число 2 в -23 как минимум а тут числа 0.2/20 да и точность то великая не нужна — Kostofey   (17.03.2006 14:09 195.22.132.3, пустое)
    • При чем ситуация хуже тем что две одинаковые формулы следующие друг за другом считаются по разному одна правильно другая нет — Kostofey   (17.03.2006 14:12 195.22.132.3, пустое)
      • оптимизатор небось на макс? — ы   (17.03.2006 14:31 80.92.98.211, пустое)
        • На этапе отладки оптимизация всегда на лоу — kostofey   (17.03.2006 18:19 193.17.208.254, пустое)
        • либы не оптимизируются. — =DDD=   (17.03.2006 15:25 81.3.156.42, пустое)
          • либы нет, а остальные вычисления (размещение результата) да, причем в дебагере может совершенная чушь отображаться при макс оптимизации — ы   (17.03.2006 15:29 80.92.98.211, пустое)
            • Чушь отображается _только_ если локалка или ее текущее значение более не нужны. — =DDD=   (17.03.2006 15:44 81.3.156.42, 88 байт)
• еще — Kostofey   (17.03.2006 14:03 195.22.132.3, 69 байт)

E-mail: info@telesys.ru