2) величина опорного значения A0
3) математическое ожидание M
4) величина дисперсии σ2
Среднее арифметическое значение Aср является первым основным статистическим параметром, который рассчитывают по серии результатов измерений оптической плотности. Для значений A1, A2, …, An оно определяется как их сумма, делённая на число измерений: Aср = ΣAi/n. Этот показатель характеризует центральный уровень экспериментальной выборки и служит наиболее устойчивой оценкой истинного значения определяемого показателя при наличии случайных погрешностей.
Последующие статистические расчёты выполняют относительно найденного среднего: определяют отклонения отдельных результатов, дисперсию, стандартное отклонение и доверительный интервал. Математическое ожидание M относится к теоретическому параметру генеральной совокупности и непосредственно по ограниченной выборке не вычисляется; A0 представляет собой опорное или референтное значение, с которым затем сравнивают средний результат. Поэтому ни дисперсия, ни оценка соответствия опорному значению не могут быть корректно рассчитаны или интерпретированы до определения Aср.
| Показатель | Обозначение или формула | Назначение в обработке результатов | Порядок использования |
|---|---|---|---|
| Отдельный результат измерения | Ai | Исходное значение оптической плотности, полученное в одном измерении | Исходные данные |
| Среднее арифметическое выборки | Aср = ΣAi/n | Оценка центрального уровня результатов и наиболее вероятного значения измеряемой величины | Первый расчётный этап |
| Отклонение результата от среднего | di = Ai − Aср | Показывает вклад каждого измерения в разброс выборки | После определения среднего |
| Дисперсия | s2 или σ2 | Количественная характеристика рассеяния результатов относительно среднего | Рассчитывается по отклонениям |
| Стандартное отклонение | s = √s2 | Оценивает типичный размер случайной погрешности в единицах оптической плотности | После дисперсии или одновременно с ней |
| Математическое ожидание | M(A) | Теоретическое среднее генеральной совокупности, оцениваемое выборочным средним | Не является первым прямым расчётом по серии |
| Опорное значение | A0 | Референтный уровень для оценки правильности, смещения или соответствия метода | Сравнение после расчёта Aср |
В лабораторной практике среднее значение рассчитывают по повторным измерениям одного образца или контрольного материала. Его сопоставление с A0 позволяет оценивать систематическое смещение метода, а анализ дисперсии — его прецизионность. Чем меньше случайный разброс при сохранении близости к опорному значению, тем выше аналитическая надёжность результатов. При выявлении грубых промахов их исключение допустимо только по заранее установленным статистическим и методическим критериям.