Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате.
Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр.
Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр.
При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
Примеры
Промежуточные результаты
Окончательные результаты
0,178 ± 0,053
0,18 ± 0,05
0,1784 ± 0,0533
0,178 ± 0,053
1,22 ± 0,18
1,2 ± 0,2
1,224 ± 0,183
1,22 ± 0,18
3,74 ± 0,748
3,7 ± 0,7
3,742 ± 0,748
3,74 ± 0,75
12,83 ± 1,28
12,8 ± 1,3
54,2 ± 5,4
54 ± 5
54,23 ± 5,42
54,2 ± 5,4
177,6 ± 33,7
178 ± 34
2357,4 ± 212,2
2357 ± 212
11624,8 ± 5812,4
11624 ± 5812
Этот документ создан сообществом лабораторий и открыт для изменений.
Вы можете помочь улучшить его, отправив свою версию.
Для этого используйте форму загрузки внизу страницы.
Этот материал поможет вам создать документы для вашей лаборатории.
Документ будет полностью обезличен: мы удалим все персонализирующие данные и адаптируем его для интеграции в текущие или новые проекты Открытой разработки документов (ОРД). Мы внесем изменения в текст при такой необходимости.
Результат загрузки файла
Огромное спасибо за Ваш неоценимый вклад в создание документации для лабораторий! Ваши усилия помогут нам сделать этот процесс более эффективным и точным. Благодаря Вашему участию, лаборатории работают как часы!