<<
>>

Десятичная запись и округление чисел

Десятичная запись числа – это когда число записано цифрами от 0 до 9, с использоваться запятой. Другими словами десятичные дроби. Пример: 1,07; 25,334 и т.п.

В основе процессов округления лежит идея минимальной разности числа с и его округленного значения c0.

Правило округления (по дополнению). Чтобы округлить число до n значащих цифр, отбрасывают все цифры его, стоящие справа от n-ой значащей цифры или, если это нужно для сохранения разрядов, заменяют их нулями. При этом:

а) если 1-ая из отброшенных цифр меньше 5, то оставшиеся десятичные знаки сохраняются без изменения;

б) если 1-ая из отброшенных цифр больше 5, то к последней оставшейся цифре прибавляется единица;

в) если 1-ая из отброшенных цифр равна 5 и среди остальных отброшенных цифр есть ненулевые, то последняя оставшаяся цифра увеличивается на единицу;

г) если первая из отброшенных цифр равна 5, а все остальные отброшенные цифры нули, то последняя оставшаяся цифра сохраняется неизменной, если она четная, и увеличивается на единицу, если она нечетная.

В исключительном случае, когда отброшенная часть в точности равна 1/2 единицы последнего сохраненного разряда, то для компенсации знаков ошибок округления используется правило четной цифры.

Очевидно, что при таком правиле округления погрешность не превосходит 1/2 единицы десятичного разряда, определяемого последней оставленной значащей цифрой.

3)

<< | >>
Источник: Ответы на билеты по Вычислительной Математике. 2017

Еще по теме Десятичная запись и округление чисел:

  1. Связь натурального и десятичного логарифмов.
  2. § 1. Геометрия чисел
  3. Геометрическая интерпретация комплексных чисел
  4. УСЛОВНАЯ ЗАПИСЬ
  5. Закон больших чисел. Неравенство Чебышева.
  6. 21 Двойная запись, её сущность и значение.
  7. § 3. КОНТРОЛЬ И ЗАПИСЬ ПЕРЕГОВОРОВ
  8. О СМЫСЛЕ ЧИСЕЛ
  9. Основы теории чисел
  10. Умножение многозначных чисел
  11. Тема 27. Запись, воспроизведение видеоизображения и звука
  12. 32. Закон больших чисел. Теорема Бернулли (с доказательством) и ее значение. Пример.
  13. Умножение и деление натуральных чисел
  14. Лекция 1. Поле С комплексных чисел.
  15. Теория чисел. Лекции, 2017