Подготовка массива результатов измерений к статистической обработке заключается в «исправлении результатов измерений». Задача-максимум состоит в исключении из результатов измерений всех систематических составляющих, задача минимум – в исключении переменных систематических составляющих. Следует признать, что любое исключение погрешностей не бывает абсолютным; в результатах могут содержаться невыявленные систематические составляющие, а также всегда остаются неисключенные остатки систематических погрешностей. Методы выявления, оценки и исключения систематических погрешностей и методы оценки неисключенных остатков систематических погрешностей рассмотрены в соответствующем модуле.

Рассмотрим порядок статистической обработки исправленных результатов прямых равнорассеянных измерений одной и той же физической величины.

1. Расчет среднего арифметического значения Xср (получение точечной оценки результата измерения)

n

  Xср =   Σ Xi.

  i =1

2. Расчет отклонений Vi результатов наблюдений от среднего арифметического

Vi = Xср – Xi .

2a. Проверка правильности расчетов значений отклонений и среднего арифметического

n

                Σ Vi ≈ 0.

i =1

Если сумма значимо отличается от нуля, то либо неправильно рассчитаны отклонения, либо среднее арифметическое значение и отклонения. Несущественные отклонения от нуля возможны из-за округления среднего арифметического.

3. Расчет оценки  с к о  результатов наблюдений

_________________________

 ˜                     /            n

σX  =   √   [1/(n-1)] ∙ Σ (Xср – Xi) 2

 i =1

4. Проверка гипотезы о сходимости эмпирического и теоретического распределений по критериям согласия.

При n > 50 для проверки принадлежности распределения к нормальному предпочтительно использование критериев Пирсона c2 (рекомендуется использовать при n > 100) или Мизеса-Смирнова w2. При 15 < n < 50 для проверки принадлежности распределения к нормальному предпочтительным является составной критерий (W).

Проверки по критериям согласия проводят при уровне значимости q от  10 % до 2 %. Принятые значения уровней значимости приводят в описании методики выполнения измерений или обработки результатов измерений.

При n ≤ 15 проверку принадлежности распределения к нормальному не проводят, а качественную оценку формируют на основе априорной информации о виде (законе) распределения случайной величины, что позволяет затем перейти к соответствующей количественной оценке.

5. Статистическая проверка наличия результатов с грубыми погрешностями.

При наличии результатов, подозрительных на наличие грубой погрешности, определяют критерий ν для статистического отбраковывания экстремальных результатов Xextr и сравнивают его с критическим значением ν'

ν = ( |Xextr – Xср| / σ) > ν'.

При нормальном распределении погрешностей можно применять упрощенную процедуру отбраковывания экстремальных отклонений, например, по критерию 3σ

|Vextr| > 3σ.

Соблюдение неравенства позволяет утверждать, что проверяемый результат содержит грубую погрешность и должен исключаться из рассмотрения. Если отбракован хотя бы один результат с грубой погрешностью обработка повторяется с п.1.

6. Расчет оценки среднего квадратического отклонения результата измерения (оценки с к о среднего арифметического значения)

                 ˜           ˜       __

σXср = σX /√ n

7. Расчет значения границы погрешности результата измерения Δ (по модулю)

Δ = t σXср;

где t – коэффициент Стьюдента, зависящий от числа результатов наблюдений n и принятой доверительной вероятности Р;

Р – доверительная вероятность.

Обычно принимают Р = 0,95 или (в особых случаях) 0,99 и выше. Особые случаи – те, в которых результаты измерений связаны со здоровьем и безопасностью жизни людей, с возможными значительными экономическими потерями, либо существенно затруднены возможности повторения измерительного эксперимента и т.д.

При наличии известных оценок частных неисключенных систематических составляющих погрешностей Θi рассчитывают границы неисключенной систематической составляющей погрешности

_________

             /     m

  Θ = k √    Σ Θi2    ,

        i =1

причем k принимают равным 1,1 при Р = 0,95 или 1,4 при Р = 0,99, если m  >  4; при m < 4 k = f(m, l) – см. таблицу 1 или графики в ГОСТ 8.207-76, а

l = Θ1/Θ2,

где Θ1 – максимальная систематическая составляющая погрешности,

Θ2 – ближайшая к максимальной систематическая составляющая погрешности.

Таблица 1 – Значения k для различных l и m

l	m
1	2	3
0,5 1,0 2,0...4,0 5,0...7,0	1,20 1,28 1,18 1,06	1,35 1,37 1,25 1,12	1,40 1,42 1,28 1,15

Пренебрежимо малыми по сравнению со случайной составляющей систематические погрешности считают при их значении менее 0,8σXср. Случайной погрешностью пренебрегают по сравнению с неисключеной систематической составляющей при Θ > 8,0σXср.

В случае промежуточных значений 0,8σXср ≤ Θ ≤ 8,0σXср в качестве границы погрешности результата измерения принимают значение Δ, определяемое как результат компонирования распределений случайной и систематической погрешностей. В этом случае считают, что неисключенные систематические погрешности в результате их самопроизвольной рандомизации имеют равновероятное распределение (худший из возможных вариантов), а границу определяют из выражения

Δ = Кσu ,

где К– коэффициент, зависящий от соотношения случайной и неисключенной систематической погрешностей.

________

˜ ˜                 /   m

 К = (t σXср + Θ)/(σXср + √  Σ Θi2 /3 )   ,

i =1

σu – оценка суммарного среднего квадратического отклонения результата измерения, который вычисляют с использованием зависимости

_____________

 /    ˜                m

σu = ( √   σ2Xср + Σ Θi2 /3 )  .

   i =1

8. Запись результата измерения A  в установленной форме

Q = Xср ± Δ, Р,

где Xср – точечная оценка результата измерений, рассчитанная как среднее арифметическое значение для всей серии наблюдений;

Δ – доверительная граница результата измерений, которую рассчитывают с использованием зависимостей                       ˜ ˜

Δ = t σXср; или Δ = Кσu,

где t – коэффициент Стьюдента;

К – коэффициент, зависящий от соотношения случайной и неисключенной систематической погрешностей;

σu – оценка суммарного среднего квадратического отклонения результата измерения при наличии случайной и неисключенной систематической погрешностей;

Р – доверительная вероятность.