Отправлено SimplyMe 26 августа 2004 г. 13:22

Вот есть процедурка:
int DataConvert (int Data, int _MinIn, int _MaxIn, int _MinOut, int _MaxOut)
{
int tmp = ((long)Data - _MinIn) *
((long)_MaxOut - _MinOut)/
((long)_MaxIn - _MinIn) + _MinOut;

return (tmp);
}
В общем она переводит переменные из одного масштаба в другой, например
DataConvert(2048, 0, 4095, 0, 180) == 90 (2048 => 90)и наоборот
DataConvert(90, 0, 180, 0, 4095) == 2048 (90 => 2048).
Так вот, очевидно что эти равенства выполняются не всегда т.к. происходит отбрасывание дробной части при вычислении. А отсюда и вопрос: как бы это значение покорректнее округлить чтобы преобразования как в одну сторону, так и в другую давали один и тот же результат? Заранее сенкс!!

• Надо разбить по действиям, что бы умножение делалось обязательно 1! и перед делением прибавить пловину делителя! — KRS   (26.08.2004 14:18, пустое)
  • Примерно так (+) — KRS   (26.08.2004 14:22, 133 байт)
    • Большой сенкс!! Попробую разобраться. Но что значит "чтобы умножение делалось обязательно 1" — SimplyMe   (26.08.2004 14:35, пустое)
      • А ты сравни(+) — Михаил Е.   (26.08.2004 14:51, 61 байт)
        • Сорри, но по-моему Вы не поняли суть проблемы :( — SimplyMe   (26.08.2004 14:56, пустое)
          • Я не про суть, я ответил почему умножение первое должно быть. — Михаил Е.   (26.08.2004 15:04, пустое)
            • :))) А у меня как сделано? Это и ежику понятно! — SimplyMe   (26.08.2004 15:14, пустое)
• Выход один - работать c float-переменной — Anatoly   (26.08.2004 13:51, пустое)
  • Это понятно, а еще какие мысли будут? — SimplyMe   (26.08.2004 14:15, пустое)
    • Если по времени не критично (+) — Михаил Е.   (26.08.2004 14:28, 142 байт)
      • Дык все равно же остаток отбросится..... — SimplyMe   (26.08.2004 14:40, пустое)
        • Зато промежуточные будут на порядок точнее. — Михаил Е.   (26.08.2004 14:43, пустое)
          • я пробовал на 2 умножать (сдвигать т.е.) вроде получается, но долго это. — SimplyMe   (26.08.2004 14:48, пустое)
            • Вам нужно десятичное округление, а не двоичное, не так ли? Поэтому умножать/делить нужно на 10, а не на 2. — rezident   (26.08.2004 16:40, пустое)