Разработка, производство и продажа радиоэлектронной аппаратуры
|
Карта сайта
|
Пишите нам
|
В избранное
Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:
jobsmp@pochta.ru
Телесистемы
|
Электроника
|
Конференция «Микроконтроллеры и их применение»
=))) это грабельки не округления а ограниченной разрядной сетки =))
Отправлено
miv
08 мая 2008 г. 11:11
В ответ на:
Прочитал про интересные ИМХО арифметические грабельки(+)
отправлено <font color=gray>Quasy</font> 08 мая 2008 г. 11:02
Которую Вы искуственно ограничиваете округлением =)
Составить ответ
|
Вернуться на конференцию
Ответы
у нас босс раз попал - в Экселе сложную зависимость превратил в красивый полином, нам её дал - попробовали в прибор сунуть - мимо кассы всё работает... Эксель вывел много знаков у коэффициентов, но нужно было ещо больше...
—
basilmak
(08.05.2008 11:29:9
82.142.173.231
,
пустое
)
Увеличим точность до double64. Должно помочь? Нет.
—
Quasy
(08.05.2008 11:17:17
192.168.0.207,80.243.9.34
,
пустое
)
Нет ! Только масштабирование !
—
miv
(08.05.2008 11:31:26
213.170.82.250
,
пустое
)
А есть ещё (+)
—
miv
(08.05.2008 11:15:52
213.170.82.250
, 205 байт)
Отправка ответа
Имя*:
Пароль:
E-mail:
Тема*:
Сообщение:
Ссылка на URL:
URL изображения:
если вы незарегистрированный на форуме пользователь, то
для успешного добавления сообщения заполните поле, как указано ниже:
введите число 56:
Перейти к списку ответов
|
Конференция
|
Раздел "Электроника"
|
Главная страница
|
Карта сайта
Web
telesys.ru