Часто при расчетах получаются числа, в десятичной записи состоящие из большого числа цифр, поэтому важно провести корректное округление результата так, чтобы погрешность округления не превосходила остальные погрешности.
1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.
Пример. Округление числа 132,48 до четырех значащих цифр дает 132,5.
2. В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
Пример. Округление числа 12,23 до трех значащих цифр дает 12,2.
3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,145 до двух значащих цифр дает 0,15.
Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом:
1) если отбрасываемая цифра получилась в результате предыдущего округления в большую сторону, то последняя сохраняемая цифра сохраняется;
Пример. Округление до одной значащей цифры числа 0,15 (полученного после округления числа 0,149) дает 0,1.
2) если отбрасываемая цифра получилась в результате предыдущего округления в меньшую сторону, то последняя оставшаяся цифра увеличивается на единицу (с переходом при необходимости в следующие разряды).
Пример. Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.
4. В случае, если первая из отбрасываемых цифр (считая слева направо) больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,156 до двух значащих цифр дает 0,16.
5. Округление следует выполнять сразу до желаемого количества значащих цифр, а не по этапам.
Пример. Округление числа 565,46 до трех значащих цифр производится непосредственно на 565.
Округление по этапам привело бы к:
6. Целые числа округляют по тем же правилам, что и дробные.
Пример. Округление числа 12456 до двух значащих цифр дает 12×103.
1. СТ СЭВ 543-77 "Числа. Правила записи и округления";
2. Блог "Лаборатория_" на Яндекс.Дзен, статья "Правила округления результатов".
1 сентября 2021 г. 11:15
Примите участие во всех зимних семинарских днях с Константином Альбертовичем Китаевым на Линко.
Это Ваш пригласительный билет на интерактивный модуль № Л-30
Помогут лучше осовоить материал
и интересно провести время.
После этого модуль будет
закрыт и не доступен для освоения
Интерактивный модуль.
Процессный подход в лаборатории
Мониторинг достоверности.
ВЛК, МСИ. Часть 1
Успейте подать заявку до 20 февраля. Скидка на всё 50%. Места ограничены
Участвовать