[an error occurred while processing this directive]
fi это фиксированная точка, а если 9 ДЕСЯТИЧНЫХ знаков, то подойдет single
(«Телесистемы»: Конференция «Цифровые сигнальные процессоры (DSP) и их применение»)
Отправлено
yes 14 июня 2005 г. 13:52
В ответ на: А можно поподробней... отправлено
vladx 14 июня 2005 г. 09:23
для single - 9-й знак не имеет значения >> a=single(1) a = 1.00
>> fix(a-0.00000001) ans = 1.00 >> fix(a-0.0000001) ans = 0 ----------------------- для double (default) - 9-й знак имеет значения >> a=1 a = 1.00 >> fix(a-0.00000001) ans = 0
info@telesys.ru
