Это не грабли, это элементарное непонимание - как влияют ошибки округления на результат (+): («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

Это не грабли, это элементарное непонимание - как влияют ошибки округления на результат (+):

Отправлено argus98 08 мая 2008 г. 11:43
В ответ на: Прочитал про интересные ИМХО арифметические грабельки(+) отправлено <font color=gray>Quasy</font> 08 мая 2008 г. 11:02

для примера с системой из двух линейных уравнений:
а00*X + a01*Y = a02
а10*X + a11*Y = a12

важнейшим фактором является определитель матрицы:
D = a00*a11 - a01*a10

если вычитаются близкие цифры, то соответственно ошибки округления
могут привести к катастрофическому результату, вплоть до
деления на "0" или смене знака результата

Составить ответ | Вернуться на конференцию

Ответы

На самом деле Вы подразумеваете число обусловленности - отношение максимального сингулярного числа матрицы к минимальному. — Oldring (08.05.2008 12:57:18 91.76.16.25, 227 байт)
- Не будем умножать сущности :) Тут некоторые о законе Ома не слышали, а вы о сингулярности... — argus98 (08.05.2008 13:17:16 81.22.205.230, пустое)
Respect ! — miv (08.05.2008 11:55:42 213.170.82.250, пустое)