знаю, калькулятором пользоваться умею))), но... («Телесистемы»: Конференция «Микроконтроллеры и их применение»)

Разработка, производство и продажа радиоэлектронной аппаратуры

| Карта сайта | Пишите нам | В избранное

Требуется программист в Зеленограде
- обработка данных с датчиков; ColdFire; 40 тыс.
e-mail:jobsmp@pochta.ru

Телесистемы | Электроника | Конференция «Микроконтроллеры и их применение»

знаю, калькулятором пользоваться умею))), но...

Отправлено RRR 06 августа 2009, г. 14:00
В ответ на: 32768 / 6830=4.79 отправлено пользователем misyachniy 06 августа 2009, г. 13:46

...дело в том, что описанная мной программа делит С ОСТАТКОМ, и никакой дробной части в результате быть не должно. разделите те же числа в виндовом калькуляторе в ШЕСТНАДЦАТЕРИЧНОМ режиме. Получите 4.

Просьба отвечать по существу вопроса.

Составить ответ | Вернуться на конференцию.

Ответы

Тут пишут что алгоритм "деление без восстановления остатка" округляет - misyachniy (06.08.2009, 14:09:47 194.187.111.110, пустое, ссылка)
- В тексте нет. Подпись под примером на 3-ей картинке сверху: "Ответ: (с учетом округления) X 1: X2 =0,1011". - misyachniy (06.08.2009, 15:04:50 194.187.111.110, пустое)
  - ещё бы понять, что имеется в виду, т.е. КАК это делается - RRR (06.08.2009, 15:25:21 91.204.71.202, пустое)
- как я ни искал, в указанном тексте нет ни слова про округление... - RRR (06.08.2009, 14:21:0 91.204.71.202, пустое)