"ОФС.1.1.0013.15. Общая фармакопейная статья. Статистическая обработка результатов химического эксперимента"
(утв. и введена в действие Приказом Минздрава России от 31.10.2018 N 749)
("Государственная фармакопея Российской Федерации. XIV издание")

Требования данной общей фармакопейной статьи распространяются на методы, используемые при статистической обработке результатов химического эксперимента.

Обозначения:

A - измеряемая величина;

a - свободный член линейной зависимости;

b - угловой коэффициент линейной зависимости;

F - критерий Фишера;

f - число степеней свободы;

i - порядковый номер варианты;

L - фактор, используемый при оценке сходимости результатов параллельных определений;

m, n - объемы выборки;

P, - доверительная вероятность соответственно при дву- и односторонней постановке задачи;

Q₁, Q_n - контрольные критерии идентификации грубых ошибок;

R - размах варьирования;

r - коэффициент корреляции;

s - стандартное отклонение;

s² - дисперсия;

- стандартное отклонение среднего результата;

- относительное стандартное отклонение среднего результата (коэффициент вариации);

s_lg - логарифмическое стандартное отклонение;

- логарифмическая дисперсия;

- логарифмическое стандартное отклонение среднего геометрического результата;

, , - общая дисперсия и дисперсия коэффициентов линейной зависимости;

t - критерий Стьюдента;

U - коэффициент для расчета границ среднего результата гарантии качества анализируемого продукта;

x, y - текущие координаты в уравнении линейной зависимости;

X_i, Y_i - вычисленные, исходя из уравнения линейной зависимости, значения переменных x и y;

, - средние выборки (координаты центра линейной зависимости);

x_i, y_i - i-тая варианта (i-тая пара экспериментальных значений x и y);

- граничные значения доверительного интервала среднего результата;

- граничные значения доверительного интервала результата отдельного определения;

d, - разность некоторых величин;

- уровень значимости, степень надежности;

- полуширина доверительного интервала величины;

- относительная величина систематической ошибки;

, - относительные ошибки соответственно результата отдельного определения и среднего результата;

- истинное значение измеряемой величины;

- знак суммирования (сумма);

- критерий хи-квадрат.

Примечание. Термины доверительная вероятность P и уровень значимости (степень надежности) взаимозаменяемы, поскольку их сумма равна либо 1, либо 100%.

Метрологические характеристики методов и результатов, получаемых при статистической обработке данных эксперимента, позволяют проводить оценку и сравнение, как методик аналитического эксперимента, так и исследуемых при таком эксперименте объектов, и на этой основе решать ряд прикладных задач.

Проверка однородности выборки. Исключение выпадающих значений вариант. Термином "выборка" обозначают совокупность статистически эквивалентных найденных в эксперименте величин (вариант). В качестве такой совокупности можно, например, рассматривать ряд результатов, полученных при параллельных определениях содержания какого-либо вещества в однородной по составу пробе.

Допустим, что отдельные значения вариант выборки объема n обозначены через x_i (1 <= i <= n) и расположены в порядке возрастания:

Результаты, полученные при статистической обработке выборки, будут достоверны лишь в том случае, если эта выборка однородна, т.е. если варианты, входящие в нее, не отягощены грубыми ошибками, допущенными при измерении или расчете. Такие варианты должны быть исключены из выборки перед окончательным вычислением ее статистических характеристик. Для выборки небольшого объема (n < 10) идентификация вариант, отягощенных грубыми ошибками, может быть выполнена, исходя из величины размаха варьирования R, см. уравнения (1.12), (1.13). Для идентификации таких вариант в выборке большого объема (n >= 10) целесообразно проводить предварительную статистическую обработку всей выборки, полагая ее однородной, и уже затем на основании найденных статистических характеристик решать вопрос о справедливости сделанного предположения об однородности, см. выражение (1.14).

В большинстве случаев среднее выборки является наилучшей оценкой истинного значения измеряемой величины , если его вычисляют как среднее арифметическое всех вариант:

При этом разброс вариант x_i вокруг среднего характеризуется величиной стандартного отклонения s. В количественном химическом анализе величина s часто рассматривается как оценка случайной ошибки, свойственной данному методу анализа. Квадрат этой величины s² называют дисперсией. Величина дисперсии может рассматриваться как мера воспроизводимости результатов, представленных в данной выборке. Вычисление величин (оценок) s и s² проводят по уравнениям (1.5) и (1.6). Иногда для этого предварительно определяют значения отклонений d_i и число степеней свободы (число независимых вариант) f:

Стандартное отклонение среднего результата рассчитывают по уравнению:

Отношение к , выраженное в процентах, называют относительным стандартным отклонением среднего результата или коэффициентом вариации .

Примечание 1.1. При наличии ряда из g выборок с порядковыми номерами k (1 <= k <= g) расчет дисперсии s целесообразно проводить по формуле:

При этом число степеней свободы равно:

где x_k - среднее k-той выборки;

n_k - число вариант в k-той выборке;

x_ik - i-тая варианта k-той выборки;

- дисперсия k-той выборки;

d_ik - отклонение i-той варианты k-той выборки.

Необходимым условием применения уравнений (1.8) и (1.9) является отсутствие статистически достоверной разницы между отдельными значениями . В простейшем случае сравнение крайних значений проводят, исходя из величины критерия F, которую вычисляют по уравнению (3.4) и интерпретируют, как указано в разделе 3.

Примечание 1.2. Если при измерениях получают логарифмы искомых вариант, среднее выборки вычисляют как среднее геометрическое, используя логарифм вариант:

откуда

Значения s², s и в этом случае также рассчитывают, исходя из логарифмов вариант, и обозначают соответственно через , s_lg и .

Пример 1.1. При определении содержания стрептоцида в образце линимента были получены следующие данные:

Как было указано выше, значения x, s², s и могут быть признаны достоверными, если ни одна из вариант выборки не отягощена грубой ошибкой, т.е. если выборка однородна. Проверка однородности выборок малого объема (n < 10) осуществляется без предварительного вычисления статистических характеристик, с этой целью после представления выборки в виде (1.1) для крайних вариант x₁ и x_n рассчитывают значения контрольного критерия Q, исходя из величины размаха варьирования R:

Выборка признается неоднородной, если хотя бы одно из вычисленных значений Q превышает табличное значение , найденное для доверительной вероятности (см. табл. I приложения). Варианты x₁ или x_n, для которых соответствующее значение , отбрасываются и для полученной выборки уменьшенного объема выполняют новый цикл вычислений по уравнениям (1.12) и (1.13) с целью проверки ее однородности. Полученная в конечном счете однородная выборка используется для вычисления x, s², s и .

Примечание 1.3. При |x₁ - x₂| < |x₂ - x₃| и |x_n - x_n-1| < |x_n-1 - x_n-2| уравнения (1.13 а) и (1.13 б) принимают соответственно вид:

Пример 1.2. При проведении девяти (n = 9) определений содержания общего азота в плазме крови крыс были получены следующие данные (в порядке возрастания):

По уравнениям (1.12) и (1.13 а) находим:

По табл. I приложения находим:

Следовательно, гипотеза о том, что значение x₁ = 0,62 должно быть исключено из рассматриваемой совокупности результатов измерений как отягощенное грубой ошибкой, может быть принята с доверительной вероятностью 95%, но должна быть отвергнута, если выбранное значение доверительной вероятности равно 99%.

Для выборок большого объема (n >= 10) проверку однородности проводят после предварительного вычисления статистических характеристик , s², s и . При этом выборка признается однородной, если для всех вариант выполняется условие:

Если выборка признана неоднородной, то варианты, для которых |d_i| > 3s, отбрасываются как отягощенные грубыми ошибками с доверительной вероятностью P > 99,0%. В этом случае для полученной выборки сокращенного объема повторяют цикл вычислений статистических характеристик по уравнениям (1.2), (1.5), (1.6), (1.9) и снова проводят проверку однородности. Вычисление статистических характеристик считают законченным, когда выборка сокращенного объема оказывается однородной.

Примечание 1.4. При решении вопроса об однородности конкретной выборки небольшого объема также можно воспользоваться выражением (1.14), если известна оценка величины s, ранее найденная для данного метода измерения (расчета) вариант.

Если случайная однородная выборка конечного объема n получена в результате последовательных измерений некоторой величины A, имеющей истинное значение , то среднее этой выборки следует рассматривать лишь как приближенную оценку величины A. Достоверность этой оценки характеризуется величиной доверительного интервала , для которой с заданной доверительной вероятностью P выполняется условие:

Следует отметить, что данный доверительный интервал не характеризует погрешность определения величины , поскольку найденная величина может быть в действительности очень близка к истинному значению . Полученный доверительный интервал характеризует степень неопределенности истинного значения величины A по результатам последовательных измерений выборки конечного объема n. Поэтому правильно говорить о "неопределенности результатов анализа" (которая характеризуется доверительным интервалом) вместо выражения "погрешность результатов анализа", которое нередко не совсем корректно используется.

Расчет граничных значений доверительного интервала проводят по критерию Стьюдента, предполагая, что варианты, входящие в выборку, распределены нормально:

Здесь t(P, f) - табличное значение критерия Стьюдента (см. табл. II приложения).

Если при измерении одним и тем же методом двух близких значений A были получены две случайные однородные выборки с объемами n и m, то при m < n для выборки объема m справедливо выражение:

где индекс указывает принадлежность величин к выборке объема m или n.

Выражение (2.3) позволяет оценить величину доверительного интервала среднего , найденного, исходя из выборки объема m. Иными словами, доверительный интервал среднего для выборки относительно малого объема m может быть сужен благодаря использованию известных величин s_(n) и t(P, f_(n)), найденных ранее для выборки большего объема n (в дальнейшем индекс n будет опущен).

Примечание 2.1. Если n <= 15, а , величины s и f целесообразно вычислять, как указано в примечании 1.1.

Подставляя n = 1 в выражение (2.2), или m = 1 в выражение (2.3), получаем:

Этот интервал является доверительным интервалом результата единичного определения. Для него с доверительной вероятностью P выполняются взаимосвязанные условия:

Значения и из выражений (2.2) и (2.4) используют при вычислении относительных погрешностей отдельной варианты и среднего результата , выражая эти величины в %:

Пример 2.1. В результате определения содержания хинона в стандартном образце хингидрона были получены следующие данные (n = 10):

Расчеты по формулам (1.2), (1.4), (1.5), (1.6), (1.9) дали следующие результаты:

Доверительные интервалы результата отдельного определения и среднего результата при P = 90% получаем согласно (2.4) и (2.2):

Тогда относительные погрешности и , согласно (2.7) и (2.8), равны:

Обозначая истинное содержание хинона в хингидроне через , можно считать, что с 90% доверительной вероятностью справедливы неравенства:

Примечание 2.2. Вычисление доверительных интервалов для случая, описанного в примечании 1.2, проводят, исходя из логарифмов вариант.

Тогда выражения (2.2) и (2.4) принимают вид:

Потенцирование выражений (2.9) и (2.10) приводит к несимметричным доверительным интервалам для значений x и x_i.

где

При этом для нижних и верхних границ доверительных интервалов и x имеем:

С целью получения метрологической характеристики метода проводят совместную статистическую обработку одной или нескольких выборок, полученных при анализе образцов с известным содержанием определяемого компонента . Результаты статистической обработки представляют в виде табл. 1.

--------------------------------

<*> Графа 10 заполняется в том случае, если реализуется неравенство (3.2).

Примечание 3.1. При проведении совместной статистической обработки нескольких выборок, полученных при анализе образцов с разным содержанием определяемого компонента , данные в графах 1, 2, 3, 4, 9 и 10 табл. 1 приводят отдельно для каждой выборки. При этом в графах 2, 4, 5, 7, 8 в последней строке под чертой приводят обобщенные значения f, s², s, t, , вычисленные с учетом примечания 1.1.

Если для выборки объема m величина , следует решить вопрос о наличии или отсутствии систематической ошибки. Для этого вычисляют критерий Стьюдента t:

Если, например, при P = 95% и f = m - 1, реализуется неравенство

то полученные данным методом результаты отягощены систематической ошибкой, относительная величина которой вычисляется по формуле:

Следует помнить, что если величина A определена как среднее некоей выборки, полученной эталонным методом, критерий Стьюдента t может рассчитываться по уравнению (4.5).

При сравнении воспроизводимости двух методов анализа с оценками дисперсий и вычисляют критерий Фишера F:

Критерий F характеризует при достоверность различия между и . Вычисленное значение F сравнивают с табличным значением F(P, f₁, f₂), найденным при P = 99% (см. табл. III приложения). Если для вычисленного значения F выполняется неравенство:

различие дисперсий и признается статистически значимым с вероятностью P, что позволяет сделать заключение о более высокой воспроизводимости второго метода. Если выполняется неравенство:

различие значений и не может быть признано значимым и заключение о различии воспроизводимости методов сделать нельзя ввиду недостаточного объема информации.

Примечание 3.2. Для случая, описанного в примечании 1.2, в табл. 1 вместо величин , , s² и s приводят величины , , и s_lg. При этом в графу 8, согласно примечанию 2.2, вносят величину , а в графу 9 - максимальное по абсолютной величине значение . Аналогичные замены проводят при вычислении t по уравнению (3.1) и F - по уравнению (3.4).

Для сравнения двух методов анализа результаты статистической обработки сводят в табл. 2.

Метрологическое сравнение методов анализа желательно проводить при , f₁ > 10 и f₂ > 10. Если точные значения и неизвестны, величины и t_выч не определяют.

Пример 3.1. Пусть для двух выборок аналитических данных (1 и 2), характеризующих, например, различные методы анализа, получены метрологические характеристики, приведенные в графах 1 - 10 табл. 3.

Для заполнения графы 11 вычислим значения t_выч(1) и t_выч(2):

Поскольку t_выч(1) = 1,28 < t₁(95%, 20) = 2,09, гипотеза может быть отвергнута, что позволяет считать результаты выборки 1 свободными от систематической ошибки. Напротив, поскольку t_выч(2) = 72,36 >> t₂(95%, 15) = 2,13, гипотезу приходится признать статистически достоверной, что свидетельствует о наличии систематической ошибки в результатах выборки 2. В графу 14 вносим вычисленное значение :

Заполним графы 12 и 13:

Следовательно, при P = 99% гипотезу о различии дисперсий и следует признать статистически достоверной.

Выводы:

а) результаты, полученные первым методом, являются правильными, т.е. они не отягощены систематической ошибкой;

б) результаты, полученные вторым методом, отягощены систематической ошибкой;

в) по воспроизводимости второй метод существенно превосходит первый метод.

Если с помощью данного метода анализа (измерения) следует определить значение некоторой величины A, то для полученной экспериментально однородной выборки объема m рассчитывают значения величин, необходимые для заполнения табл. 4. Так поступают в том случае, если применяемый метод анализа (измерения) не был ранее аттестован метрологически. Если же этот метод уже имеет метрологическую аттестацию, графы 2, 4, 5, 7, 8 и 9 табл. 4 заполняются на основании данных табл. 1, полученных при его аттестации. При заполнении табл. 4 следует при необходимости учитывать примечания 2.1 и 3.1.

Таким образом, на основании выражения (2.1) для измеряемой величины A в предположении отсутствия систематической ошибки с вероятностью P выполняется условие:

то есть величина A при отсутствии систематической ошибки лежит в пределах:

Примечание 4.1. В случае, предусмотренном в примечании 1.2, в графе 9 табл. 4 приводят величину , а каждую из граф 3, 10 и 11 разбивают на две (а, б). В графе 3 а приводят значение , в графе 3 б - значение , в графах 10 а и 10 б - соответственно значения нижней и верхней границ доверительного интервала для (см. уравнения (2.11), (2.12)). Наконец, в графе 11 приводят максимальное по абсолютной величине значение (см. уравнение (2.12 а)).

Если в результате измерений одной и той же величины A получены две выборки объема n₁ и n₂, причем , может возникнуть необходимость проверки статистической достоверности гипотезы:

то есть значимости величины разности .

Такая проверка необходима, если величина A определялась двумя разными методами с целью их сравнения или если величина A определялась одним и тем же методом для двух разных объектов, идентичность которых требуется доказать. Для проверки гипотезы (4.3) следует установить, существует ли статистически значимое различие между дисперсиями и . Эта проверка проводится так, как указано в разделе 3 (см. выражения (3.4), (3.5), (3.5 а)). Рассмотрим три случая.

1. Различие дисперсий и статистически недостоверно (справедливо неравенство (3.5 а)). В этом случае средневзвешенное значение s² вычисляют по уравнению (1.7), а дисперсию разности - по уравнению:

Далее вычисляют критерий Стьюдента:

Если при выбранном значении P (например, при P = 95%):

то результат проверки положителен - значение является значимым и гипотезу отбрасывают. В противном случае надо признать, что эта гипотеза не противоречит экспериментальным данным.

2. Различие значений и статистически достоверно (справедливо неравенство (3.5)). Если , дисперсию разности находят по уравнению (4.7), а число степеней свободы f' - по уравнению (4.8):

Следовательно, в данном случае:

Вычисленное по уравнению (4.9) значение t сравнивают с табличным значением t(P, f'), как это описано выше для случая 1.

Рассмотрение проблемы упрощается, когда n₁ ~= n₂ и . Тогда в отсутствие систематической ошибки среднее выборки объема n₂ принимают за достаточно точную оценку величины A, т.е. принимают . Справедливость гипотезы , эквивалентной гипотезе (4.3), проверяют с помощью выражений (3.1), (3.2), принимая f₁ = n₁ - 1. Гипотеза (4.3) отклоняется как статистически недостоверная, если выполняется неравенство (3.2).

3. Известно точное значение величины A. Если , проверяют две гипотезы: (4.3 а) и (4.3 б). Проверку выполняют так, как описано в разделе 3 с помощью выражений (3.1) и (3.2) отдельно для каждой из гипотез. Если гипотезы (4.3 а) и (4.3 б) статистически достоверны, то следует признать достоверной и гипотезу (4.3). В противном случае гипотеза (4.3) должна быть отброшена.

Примечание 4.2. В случае, предусмотренном примечанием 1.2, при сравнении средних используют величины , и s_lg.

Когда разность оказывается значимой, определяют доверительный интервал для разности соответствующих генеральных средних и :

Пример 4.1. При определении содержания основного вещества в двух образцах препарата, изготовленных по разной технологии, получены метрологические характеристики средних результатов, приведенные в табл. 5.

Требуется решить, является ли первый образец по данному показателю лучшим в сравнении со вторым образцом. Поскольку

то согласно неравенству (3.5 а) статистически достоверное различие величин и отсутствует. Следовательно, гипотеза (4.3) проверяется с помощью уравнений (1.7), (1.8), (4.4) и (4.5).

Следовательно, с доверительной вероятностью P = 95% гипотеза может быть принята. Однако с доверительной вероятностью P = 99% принять эту гипотезу нельзя из-за недостатка информации.

Если гипотеза принята, то определяют доверительный интервал разности генеральных средних и (уравнение (4.10)):

Оценка сходимости результатов параллельных определений. При рядовых исследованиях аналитик обычно проводит 2 - 3, реже 4 параллельных определения. Варианты полученной при этом упорядоченной выборки объема m, как правило, довольно значительно отличаются друг от друга. Если метод анализа метрологически аттестован, то максимальная разность результатов двух параллельных определений должна удовлетворять неравенству:

где L(P, m) - фактор, вычисленный по Пирсону при P = 95%.

Если неравенство (5.1) не выполняется, необходимо провести дополнительное определение и снова проверить, удовлетворяет ли величина |x₁ - x_n| неравенству (5.1).

Если для результатов 4 параллельных определений неравенство (5.1) не выполняется, одна из вариант (x₁ или x_n) должна быть отброшена и заменена новой. При невозможности добиться выполнения неравенства (5.1) следует считать, что конкретные условия анализа привели к снижению воспроизводимости метода и принятая оценка величины s применительно к данному случаю является заниженной. В этом случае поступают, как указано в разделе 1.

Определение необходимого числа параллельных определений. Если необходимо получить средний результат с относительной погрешностью , причем метод анализа метрологически аттестован, необходимое число параллельных определений m находят с учетом уравнений (2.3) и (2.4):

Гарантия качества продукции. Предположим, что качество продукции регламентируется предельными значениями a_min и a_max величины A, которую определяют на основании результатов анализа. Примем, что вероятность соответствия качества продукта условию:

должна составлять , %.

Пусть величину A находят экспериментально, как среднее выборки объема m, а метод ее определения метрологически аттестован. Тогда условие (5.3) будет выполняться с вероятностью , если значение будет лежать в пределах:

где:

Значения коэффициента U для вероятности и соответственно равны 1,65 и 2,33. Иными словами, для гарантии качества наблюдаемые пределы изменения величины A на практике следует ограничить значениями:

Наоборот, если заданы значения A_min и A_max, значения a_min и а_max, входящие в неравенство (5.3), могут быть найдены путем решения уравнений (5.6) и (5.7). Наконец, если заданы пары значений A_min, a_min и A_max, a_max, то уравнения (5.6) и (5.7) могут быть решены относительно m. Это может быть использовано для оценки необходимого числа параллельных определений величины A.

Примечание 5.1. В уравнениях (5.5), (5.6) и (5.7) величина коэффициента должна быть заменена величиной , если значение f, определенное по уравнениям (1.4) или (1.8), меньше 15.

Примечание 5.2. Для случая, предусмотренного примечанием 1.2, описанные в разделе 5 вычисления проводят с использованием величин , lg x_i, s_lg и т.п.

Пример 5.1. Рассмотрим данные табл. 3, относящиеся к выборке 1, как метрологическую характеристику используемого метода анализа.

а) Пусть a_min = 98%, a_max = 100,50%. Тогда для испытуемого образца продукта средний результат анализа при проведении трех параллельных определений (m = 3) должен находиться в пределах:

При :

При :

б) Реальный средний результат анализа образца испытуемого продукта A = 99% (при m = 3). Тогда определение пределов a_min и a_max, гарантированно характеризующих качество данного образца с заданной доверительной вероятностью , проводим, исходя из уравнения (5.6) или (5.7), полагая

При :

При :

Полученные оценки a_min и a_max близки к границам доверительного интервала , что соответствует примечанию 5.1.

При использовании ряда химических и физико-химических методов количественного анализа непосредственному измерению подвергается некоторая величина y, которая рассматривается как линейная функция искомой концентрации (количества) x определяемого вещества или элемента. Иными словами, в основе таких методов анализа лежит экспериментально подтвержденная линейная зависимость:

где y - измеряемая величина;

x - концентрация (количество) определяемого вещества или элемента;

b - угловой коэффициент линейной зависимости;

a - свободный член линейной зависимости.

(Здесь b и a рассматриваются как коэффициенты (параметры) линейной регрессии y на x).

Для использования зависимости (6.1) в аналитических целях, т.е. для определения конкретной величины x по измеренному значению y, необходимо заранее найти числовые значения констант b и a, иными словами провести калибровку. Если константы зависимости (6.1) рассматриваются с учетом их физического смысла, то, при необходимости, их значения могут оцениваться с учетом доверительных интервалов.

Если калибровка проведена и значения констант a и b определены, величину X_i находят по измеренному значению y_i:

При калибровке величину x рассматривают как аргумент, а величину y - как функцию.

Наличие линейной зависимости между x и y целесообразно подтверждать расчетным путем. Для этого по экспериментальным данным, полученным при калибровке, оценивают достоверность линейной связи между x и y с использованием корреляционного анализа и лишь затем рассчитывают значения констант a и b зависимости (6.1) и их доверительные интервалы. В первом приближении судить о достоверности линейной связи между переменными x и y можно по эмпирической величине коэффициента корреляции r, который вычисляют по уравнению:

исходя из экспериментальных данных, представленных в табл. 6. Чем ближе значение |r| к единице, тем менее наблюдаемая линейная зависимость между переменными x и y может рассматриваться как случайная. В аналитической химии в большинстве случаев используют линейные зависимости, отвечающие условию |r| >= 0,98, и только при анализе следовых количеств рассматривают линейные зависимости, для которых |r| >= 0,90. При столь близких к 1 значениях величины |r| формальное подтверждение наличия линейной связи между переменными x и y проводить не следует.

Коэффициенты a и b и метрологические характеристики зависимости (6.1) рассчитывают с использованием регрессионного анализа, т.е. методом наименьших квадратов по экспериментально измеренным значениям переменной y для заданных значений аргумента x. Пусть в результате эксперимента найдены представленные в табл. 6 пары значений аргумента x и функции y.

Тогда:

Если полученные значения коэффициентов a и b использовать для вычисления значений y по заданным в табл. 6 значениям аргумента x согласно зависимости (6.1), то вычисленные значения y обозначают через Y₁, Y₂, ..., Y_i, ..., Y_n. Разброс значений Y_i относительно значений y_i характеризуется величиной дисперсии , которую вычисляют по уравнению:

В свою очередь, дисперсии констант b и a находят по уравнениям:

Стандартные отклонения s_b и s_a и величины и , необходимые для оценки доверительных интервалов констант уравнения регрессии, рассчитывают по уравнениям:

Уравнению (6.1) с константами a и b обязательно удовлетворяет точка с координатами и , называемая центром калибровочного графика:

Наименьшие отклонения значений y_i от значений Y_i наблюдаются в окрестностях центра графика. Стандартные отклонения s_y и s_x величин Y и X, рассчитанных соответственно по уравнениям (6.1) и (6.2), исходя соответственно из известных значений x и y, определяются с учетом удаления последних от центра графика:

где - среднее значение для n_j вариант y, по которым вычислено искомое значение X.

При и выражения (6.16) и (6.17) принимают вид:

С учетом значений s_y и s_x могут быть найдены значения величин и :

Значения s_x и , найденные при n_j = 1, являются характеристиками воспроизводимости аналитического метода, если x - концентрация (количество), а y есть функция x.

Обычно результаты статистической обработки по методу наименьших квадратов сводят в таблицу (табл. 7).

Примечание 6.1. Если целью экспериментальной работы являлось определение констант b и a, графы 11, 12 и 13 табл. 7 не заполняются.

Примечание 6.2. Если y = b·lg x + a, вычисления, описанные в разделе 6, выполняют с учетом примечаний 1.2 и 2.2.

Примечание 6.3. Сравнение дисперсий , полученных в разных условиях для двух линейных зависимостей, может быть проведено, как указано в разделе 3 (см. выражения (3.4), (3.5) и (3.5 а)).

Описанные в разделах 1 - 6 настоящей общей фармакопейной статьи расчеты доверительных интервалов результатов методик анализа применимы лишь в том случае, если измеряемая величина (концентрация, содержание и т.д.) является функцией только одной случайной переменной. Такая ситуация обычно возникает при использовании прямых методов анализа (титрование, определение сульфатной золы, тяжелых металлов и т.д.). Однако большинство методик количественного определения в фармакопейном анализе являются косвенными, то есть используют стандартные образцы. Следовательно, измеряемая величина является функцией, как минимум, двух случайных переменных - аналитических сигналов (оптическая плотность, высота или площадь пика и т.д.) испытуемого и стандартного образцов. Кроме того, нередко возникает проблема прогнозирования неопределенности аналитической методики, состоящей из нескольких стадий (взвешивание, разбавление, конечная аналитическая операция), каждая из которых является по отношению к другой случайной величиной.

Таким образом, возникает общая проблема оценки неопределенности косвенно измеряемой величины, зависящей от нескольких измеряемых величин, в частности, как рассчитывать неопределенность всей аналитической методики, если известны неопределенности отдельных ее составляющих (стадий)?

Если измеряемая на опыте величина y является функцией n независимых случайных величин x_i, то есть:

и число степеней свободы величин x_i одинаково или достаточно велико (> 30, чтобы можно было применять статистику Гаусса, а не Стьюдента), то дисперсия величины y связана с дисперсиями величин x_i соотношением (правило распространения неопределенностей):

Однако на практике степени свободы величин x_i обычно невелики и не равны друг другу. Кроме того, обычно интерес представляют не сами дисперсии (стандартные отклонения), а доверительные интервалы, рассчитать которые, используя уравнение (7.2), при небольших и неодинаковых степенях свободы невозможно. Поэтому для расчета неопределенности величины y предложены различные подходы, среди которых можно выделить два основных: линейная модель и подход Уэлча-Сатертуэйта.

Если случайные переменные x_i статистически независимы, то доверительный интервал функции связан с доверительными интервалами переменных соотношением (доверительные интервалы берутся для одной и той же вероятности):

Данное выражение является обобщением соотношения (7.2).

В фармакопейном анализе измеряемая величина y представляет собой обычно произведение или частное случайных и постоянных величин (масс навесок, разбавлений, оптических плотностей или площадей пиков и т.д.), т.е. (K - некая константа):

В этом случае соотношение (7.2) принимает вид:

где использованы относительные доверительные интервалы.

Соотношение (7.4) применимо при любых (разных) степенях свободы (в том числе и бесконечных) для величин x_i. Его преимуществом является простота и наглядность. Использование абсолютных доверительных интервалов приводит к гораздо более громоздким выражениям, поэтому рекомендуется использовать относительные величины.

При проведении фармакопейного анализа в суммарной неопределенности анализа обычно всегда можно выделить такие типы неопределенностей: неопределенность пробоподготовки , неопределенность конечной аналитической операции и неопределенность аттестации стандартного образца . Величина обычно столь мала, что ею можно пренебречь. Учитывая это, а также то, что анализ проводится и для испытуемого раствора (индекс "smp"), и для раствора сравнения (индекс "st"), выражение (7.5) можно представить в виде:

При этом каждое из слагаемых рассчитывается из входящих в него компонентов по формуле (7.5).

Если число степеней свободы величин x_i одинаково или достаточно велико (> 30), выражение (7.5) дает:

Это же соотношение получается при тех же условиях и из выражения (7.2).

В этом подходе дисперсию величины y рассчитывают по соотношению (7.2), не обращая внимания на различие в степенях свободы величин x_i. Для полученной дисперсии рассчитывают некое "эффективное" число степеней свободы (которое обычно является дробным), на основе которого затем по таблицам для заданной вероятности находят интерполяцией значения критерия Стьюдента. На основе его далее рассчитывают обычным путем доверительный интервал величины y :

В фармакопейном анализе для определяемой величины y обычно выполняется уравнение (7.4). В этом случае в подходе Уэлча-Сатертуэйта соотношение (7.2) переходит в выражение (7.7), и соотношение (7.8) принимает более простой вид:

Здесь величина рассчитывается из соотношения (7.7).

Подход Уэлча-Сатертуэйта обычно дает более узкие доверительные интервалы, чем линейная модель. Однако он гораздо сложнее в применении и не позволяет выделить так просто неопределенности разных этапов (с последующими рекомендациями по их минимизации), как линейная модель в форме выражения (7.6).

При прогнозе неопределенности анализа используются генеральные величины (с бесконечным числом степеней свободы). В этом случае подход Уэлча-Сатертуэйта совпадает с линейной моделью.

t = 1,958788 + 2,429953/f + 2,189891/f² + 4,630189/f³ + 1,398179/f при P = 95%; t = 2,5638 + 5,49059/f + 2,72654/f² + 31,2446/f³ + 21,6745/f¹⁰ при P = 99%.