Часто при расчетах получаются числа, в десятичной записи состоящие из большого числа цифр, поэтому важно провести корректное округление результата так, чтобы погрешность округления не превосходила остальные погрешности.
1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.
Пример. Округление числа 132,48 до четырех значащих цифр дает 132,5.
2. В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.
Пример. Округление числа 12,23 до трех значащих цифр дает 12,2.
3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,145 до двух значащих цифр дает 0,15.
Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом:
1) если отбрасываемая цифра получилась в результате предыдущего округления в большую сторону, то последняя сохраняемая цифра сохраняется;
Пример. Округление до одной значащей цифры числа 0,15 (полученного после округления числа 0,149) дает 0,1.
2) если отбрасываемая цифра получилась в результате предыдущего округления в меньшую сторону, то последняя оставшаяся цифра увеличивается на единицу (с переходом при необходимости в следующие разряды).
Пример. Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.
4. В случае, если первая из отбрасываемых цифр (считая слева направо) больше 5, то последняя сохраняемая цифра увеличивается на единицу.
Пример. Округление числа 0,156 до двух значащих цифр дает 0,16.
5. Округление следует выполнять сразу до желаемого количества значащих цифр, а не по этапам.
Пример. Округление числа 565,46 до трех значащих цифр производится непосредственно на 565.
Округление по этапам привело бы к:
6. Целые числа округляют по тем же правилам, что и дробные.
Пример. Округление числа 12456 до двух значащих цифр дает 12×103.
1. СТ СЭВ 543-77 "Числа. Правила записи и округления";
2. Блог "Лаборатория_" на Яндекс.Дзен, статья "Правила округления результатов".
1 сентября 2021 г. 11:15
Практикум по пп. 8.5.1 и 8.5.2
Лаборатория должна идентифицировать риски и возможности, чтобы предотвратить сбои и добиться улучшений. Необходимо интегрировать эти действия в систему менеджмента и оценить их ...
Практикум по 6.4
Лаборатория должна быть оснащена всем необходимым оборудованием. Важно учитывать ISO 17034.
Подтверждение калибровки оборудования. Все приборы идентифицируются, неисправные ...
Практикум по п. 7.10.1 c)
Процедура должна обеспечивать проведение оценки значимости несоответствующей установленным требованиям работы, в том числе анализ ее воздействия на предыдущие результаты.
Практикум по п. 7.2.1
Лаборатория должна обеспечивать актуальность и доступность всех методов и методик, используемых в работе,
и следовать установленным процедурам. Отклонения от методов допускаются только при техническом ...