Правила расчётов и округлений

Правила округления
  • Результаты эксперимента следует выражать только значащими цифрами. Значащими являются все достоверно известные цифры данного числа плюс первая недостоверная цифра.
  • Числа, выражающие фактические данные: число опытов, количество проб, число электронов – абсолютно достоверны и при любых действиях не влияют на количество значащих цифр.
  • Степенной член типа 10n не влияет на количество значащих цифр.

Правила округления (правила Гаусса) гарантируют, что сохраненные значащие цифры числа являются верными в узком смысле, т. е. погрешность округления не превосходит половины разряда, соответствующего последней оставленной значащей цифре. Правило четной цифры должно обеспечить компенсацию знаков ошибок:

  • если первая отброшенная цифра меньше 5, то оставшиеся десятичные знаки сохраняют без изменения;
  • если первая отброшенная цифра больше 5, то к последней оставшейся цифре прибавляют единицу;
  • если первая отброшенная цифра равна 5 и среди остальных отброшенных цифр есть ненулевые, то к последней оставшейся цифре прибавляют единицу;
  • если первая из отброшенных цифр равна 5 и все отброшенные цифры являются нулями, то последняя оставшаяся цифра оставляется неизменной, если она чётная, и увеличивается на единицу, если - нечётная (правило чётной цифры).

Пример №1:

Представить данные: 2,305; 0,0357; 0,001123; 0,035299879 - в виде чисел с тремя значащими цифрами.

Решение:

  • 2,305

Округляем число до трёх значащих по правилу чётной цифры - 2,30

  • 0,0357

Нули, стоящие до первой цифры, не являются значащими, при записи заменяются степенным членом 3,57 * 10-2

  • 0,001123

Заменяем нули степенным членом и округляем число до трёх значащих цифр 1,12 * 10 -3

  • 0,0352990009

Заменяем не значащие нули (стоящие до первой значащей цифры) степенным членом и по правилам округления 3,53 * 10 -2

Ответ: 2,30; 3,57 * 10-2; 1,12 * 10-3; 3,53 * 10-2

Правила сложения и вычитания

Значимость суммы или разности определяется значимостью числа с наименьшим количеством десятичных знаков.

Пример №2:

Вычислить суммарный объём раствора при сливании аликвот объёмом 32,5; 7; 0,32.

Решение:

Значимость суммы определяется недостоверностью числа с меньшим количеством десятичных знаков, т.е. числом 7:

32,5 + 7 + 0,32 = 39,82

Результат округляем по правилам до целого числа.

Ответ: V = 40.

Пример №3:

Вычислить суммарную концентрацию ионов при сливании растворов с содержанием:
2 * 10 -4
4,0 * 10-3
6,00 * 10-2

Решение:

При сложении чисел, содержащих степени, их приводят к общей наибольшей степени:
0,02 * 10-2
0,40 * 10-2
6,00 * 10-2

0,02 * 10-2 + 0,40 * 10-2 + 6,00 * 10-2 = 6,42 * 10-2

Значимость суммы определяется числом 6,00 * 10-2

Ответ: n = 6,42 * 10-2 единиц.

Правила умножение и деления

Значимость произведения или частного определяется значимостью числа с наименьшим количеством значащих цифр.

Пример №4:

Перемножить числа 32,5; 7; 0,32.

Решение:

Значимость суммы определяется недостоверностью числа с меньшим количеством значащих цифр, т.е. числом 7.

32,5 * 7 * 0,32 = 72,8

Результат округляем по правилам до одной значащей цифры.

Ответ: 7 * 101.

Правило возведения в степень

При возведении в степень "n" количество значащих цифр не меняется, но относительная недостоверность результата изменяется в "n" раз, что может привести к изменению значимости последней цифры.

Рассмотрим пример №5:

Возвести в степень числа:
32,5 - n = 2
7 - n = 4
0,32 - n = 1/2

Решение:

З2,52 = 1056,25
74 = 2401
0,321/2 = 0,320,5 = 0,5657

Примечание: в соответствии с правилом результат имеет то же количество значащих цифр что и в исходном числе.

Ответ: 1,06 * 103; 2 * 103; 5,7 * 10-1

При возведении в дробную степень количество цифр в мантиссе (дробной части) показателя концентрации равно количеству значащих цифр результата.

Пример №6:

Вычислить концентрацию ионов в растворе, если рС = 3,22.

Решение:

С = 10-3,22 = 0,00060256

Ответ: мантисса (3,22) показателя имеет два знака, что даёт нам С = 6,0 * 10-4 единиц концентрации.

Правило логарифмирования

При логарифмировании количество значащих цифр числа, над которым совершается операция, равно количеству цифр после запятой в результате.

Пример №7:

Вычислить рН 6,3 * 10-5 М раствора азотной кислоты.

Решение:

pH = - lg (6,3*10-5) = 5 – lg6,3 = 5 – 0,7993 = 4,2007
Количество значащих цифр в числе 6,3 равно двум, соответственно результат записывается с двумя знаками после запятой.

Ответ: pH = 4,20.