![]() Полное меню
ПРИЛОЖЕНИЕ Б
|
Значение для пробы |
||||
1 |
2 |
j |
S |
|
1 |
x111 |
x121 |
x1j1 |
x1S1 |
x112 |
x122 |
x1j2 |
x1S2 |
|
2 |
x211 |
x221 |
x2j1 |
x2S1 |
x212 |
x222 |
x2j2 |
x2S2 |
|
i |
xi11 |
xi21 |
xij1 |
xiS1 |
xi12 |
xi22 |
xij2 |
xiS2 |
|
L |
xL11 |
xL21 |
xLj1 |
xLS1 |
xL12 |
xL22 |
xLj2 |
xLS2 |
|
Сумма |
g1 |
g2 |
gj |
gS |
Среднее значение |
m1 |
m2 |
mj |
mS |
Примечание - Если необходимо преобразование исходных данных типа у = F(х) по 4.1, то используют символы yjj1и yij2 вместо xjj1и xij2. |
Форма заполнения приведена в таблице В.2.
Таблица В.2 - Суммы результатов, полученные при дублировании испытаний, итоги по лабораториям hi и итоги по пробам gj
Значение для пробы |
|||||
1 |
2 |
j |
S |
Сумма |
|
1 |
a11 |
a12 |
a1j |
a1S |
h1 |
2 |
a21 |
a22 |
a2j |
a2S |
h2 |
i |
аi1 |
аi2 |
аij |
аiS |
hi |
L |
аL1 |
аL2 |
аLj |
аLS |
hL |
Сумма |
g1 |
g2 |
gj |
gS |
Т |
аij = xij1 + xij2 (или аij = yij1 + yij2, если используют преобразование).
eij = xij1 - xij2 (или eij = yij1 - yij2, если используют преобразование).
,
,
,
.
Если в заполненной таблице отсутствуют какие-либо результаты, то делитель в выражении для mj уменьшают соответствующим образом.
B.1 Суммы квадратов и дисперсии (4.1)
Дисперсия дублей (повторных испытаний) для j-й пробы
где L - число степеней свободы для (повторных испытаний) дублей на j-й пробе. Если любой или оба результата в паре «лаборатория ´ проба» в ij-й ячейке потеряны, то соответствующий член в числителе пропускают, а коэффициент L уменьшают на единицу.
Дисперсия значений, средних по ячейкам , для j-й пробы равна
. (В.2)
Лабораторная дисперсия для j-й
пробы, т.е. дисперсия результатов, которые приписывают отдельной лаборатории,
для j-й пробы равна
, (В.3)
где , (В.4)
nij - число результатов, полученных i-й лабораторией на j-й пробе;
Sj - общее число результатов, полученных на j-й пробе;
L - число ячеек для j-й пробы, содержащих, по крайней мере, один результат.
Число степеней свободы лабораторной дисперсии для j-й пробы приближенно определяют с помощью выражения [6]
. (В.5)
vj округляют до ближайшего целого числа.
Если любой или оба результата в паре для ij-й ячейки потеряны, то коэффициент L уменьшают на единицу.
Если оба результата в паре для ij-й ячейки потеряны, то коэффициент (L - 1) уменьшают на единицу.
В.2 Испытание по критерию Кохрена
Наибольшая сумма квадратов SSk, плохо согласующаяся с серией из n взаимно независимых сумм квадратов, каждая из которых основана на v степенях свободы, может быть испытана на однородность согласно выражению
Критерий
Кохрена = . (В.6)
Экспериментальное значение полученного отношения не
изменится, если суммы квадратов заменяют средними квадратами (оценками
дисперсии). Если вычисленное значение отношения превосходит критическое
значение, приведенное в таблице Г.3, то сумма квадратов SSk значимо превосходит другие суммы с доверительной вероятностью 99 %.
Примеры использования SSi относятся к значениям и
по формуле (B.1).
В.3 Испытание по критерию Хокинса
В.3.1 Экстремальное значение в серии данных может быть испытано как аномальное (выпадающее) сравнением его отклонения от среднего значения серии данных, деленного на квадратный корень из суммы квадратов всех таких отклонений, т.е. статистика для испытания имеет форму отношения. Дополнительную информацию об изменчивости можно обеспечить, включая в расчеты независимые суммы квадратов. Они будут основаны на v степенях свободы и будут иметь ту же дисперсию генеральной совокупности, что и дисперсия серии данных, о которых идет речь.
В таблице В.3 приведены обозначения, которые требуются для применения испытания по критерию Хокинса к отдельным пробам.
Таблица В.3
Значения для пробы |
||||
1 |
2 |
j |
S |
|
Число ячеек |
n1 |
n2 |
nj |
nS |
Среднее значение по пробе |
m1 |
m2 |
mj |
mS |
Сумма квадратов |
SS1 |
SS2 |
SSj |
SSS |
Обозначения: |
||||
nj - число ячеек по j-й пробе, которые содержат не менее одного незабракованного результата; |
||||
mj - среднее значение по j-й пробе; |
||||
SSj - сумма квадратов отклонений средних
значений по ячейкам аij/ nij
относительно среднего значения по пробе mj, выраженная формулой |
Выражение (L - 1) представляет число степеней свободы дисперсии средних значений по ячейкам. Значение (L - 1) следует уменьшать на единицу для каждой ячейки по j-й пробе, которая не содержит результат испытания.
Процедура испытания состоит в следующем:
а) определяют пробу k и среднее значение по ячейке аik/nik, которое имеет наибольшее экстремальное абсолютное отклонение |тk - аik/nik|. Опознанная таким образом ячейка становится кандидатом в испытании на выявление аномального значения независимо от того, является ли отклонение самым большим или самым малым;
б) рассчитывают общую сумму квадратов отклонений
; (В.7)
в) рассчитывают экспериментальное значение отношения
; (B.8)
г) сравнивают экспериментальное значение отношения с критическим значением из таблицы Г.4 в приложении Г для n = nk и числа степеней свободы v, дополнительного к nk
, j ¹ k; (B.9)
д) если В* превышает критическое значение, то отбрасывают результаты, принадлежащие рассматриваемой ячейке (проба k, лаборатория i). Затем значения пk, тk и SSk пересчитывают соответствующим образом и процедуру испытания повторяют, начиная с перечисления а).
Примечание - Теоретически испытание по Хокинсу применяют для обнаружения только одной выпадающей лаборатории по какой-либо пробе. Методика повторных испытаний для единичного аномального результата, начиная с максимального отклонения от среднего по пробе, подразумевает, что критические значения в таблице Г.4 не будут точно соответствовать 1 %-ному уровню значимости. Тем не менее, как было показано Хокинсом, если п ³ 5 и общее число степеней свободы (п + v) превышает 20, то этот эффект становится пренебрежимо малым, так как выявляются эффекты маскировки (один аномальный результат скрывает другой) и «завала» (отбрасывание одного аномального результата ведет к отбрасыванию других).
В.3.2 Если испытание применяют к лабораториям, результаты которых усреднены по всем пробам, таблицу В.3 сокращают до одной колонки, содержащей
n = число лабораторий = L;
m = общее среднее = T/N,
где N - общее число результатов в таблице;
SS = сумма квадратов отклонений лабораторных средних от общего среднего, выражают формулой
, (B.10)
где ni - число результатов в i-й лаборатории.
Таким образом, с помощью такой процедуры определяют лабораторное среднее hi/ni, которое больше всего отличается от общего среднего m. В этом случае соответствующее отношение для испытания принимает вид
. (B.11)
Как указано выше, экспериментальное значение следует сравнить с критическим значением из таблицы Г.4, причем в этом случае дополнительные числа степеней свободы v¢ = 0. Если лабораторию отбрасывают как выпадающую, то значения n, m и SS пересчитывают соответствующим образом и повторяют вычисления.
В.4 Испытание отношения дисперсий (F-испытание)
Оценку дисперсии V1, основанную на v1 степенях свободы, можно сравнивать со второй оценкой V2 основанной на v2 степенях свободы, путем вычисления отношения
. (В.12)
Если экспериментальное значение отношения превышает соответствующее критическое значение, приведенное в таблицах Г.6.1 - Г.6.4, где v1 относится к числителю (к наибольшей из оценок дисперсии), a v2 относится к знаменателю, то V1 значительно превышает V2 на выбранном уровне значимости.
В таблицах Г.1 и Г.2 представлены примеры представления результатов испытаний по определению бромного числа.
В таблицах Г.3 - Г.7 представлены критические значения, используемые при обработке результатов измерений.
Таблица Г.1 - Бромное число для низкокипящих проб
Бромное число для пробы |
||||||||
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
|
А |
1,9 |
64,5 |
0,80 |
3,7 |
11,0 |
46,1 |
114,8 |
1,2 |
2,1 |
65,5 |
0,78 |
3,8 |
11,1 |
46,5 |
114,2 |
1,2 |
|
В |
1,7 |
65,4 |
0,69 |
3,7 |
11,1 |
50,3 |
114,5 |
1,2 |
1,8 |
66,0 |
0,72 |
3,7 |
11,0 |
49,9 |
114,3 |
1,2 |
|
С |
1,8 |
63,5 |
0,76 |
3,5 |
10,4 |
48,5 |
112,4 |
1,3 |
1,8 |
63,8 |
0,76 |
3,5 |
10,5 |
48,2 |
112,7 |
1,3 |
|
D |
4,1 |
63,6 |
0,80 |
4,0 |
10,8 |
49,6 |
108,8 |
1,0 |
4,0 |
63,9 |
0,80 |
3,9 |
10,8 |
49,9 |
108,2 |
1,1 |
|
Е |
2,1 |
63,9 |
0,83 |
3,7 |
10,9 |
47,4 |
115,6 |
1,3 |
1,8 |
63,7 |
0,83 |
3,7 |
11,1 |
47,6 |
115,1 |
1,4 |
|
F |
1,8 |
70,7 |
0,72 |
3,4 |
11,5 |
49,1 |
121,0 |
1,4 |
1,7 |
69,7 |
0,64 |
3,6 |
11,2 |
47,9 |
117,9 |
1,4 |
|
G |
1,9 |
63,8 |
0,77 |
3,5 |
10,6 |
46,1 |
114,1 |
1,1 |
2,2 |
63,6 |
0,59 |
3,5 |
10,6 |
45,5 |
112,8 |
0,93 |
|
Н |
2,0 |
66,5 |
0,78 |
3,2 |
10,7 |
49,6 |
114,8 |
1,1 |
1,8 |
65,5 |
0,71 |
3,5 |
10,7 |
48,5 |
114,5 |
1,0 |
|
J |
2,1 |
68,2 |
0,81 |
4,0 |
11,1 |
49,1 |
115,7 |
1,4 |
2,1 |
65,3 |
0,81 |
3,7 |
11,1 |
47,9 |
113,9 |
1,4 |
Таблица Г.2 - Кубический корень из бромного числа для низкокипящих проб
Значение для пробы |
||||||||
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
|
А |
1,239 |
4,010 |
0,928 |
1,547 |
2,224 |
3,586 |
4,860 |
1,063 |
1,281 |
4,031 |
0,921 |
1,560 |
2,231 |
3,596 |
4,852 |
1,063 |
|
В |
1,193 |
4,029 |
0,884 |
1,547 |
2,231 |
3,691 |
4,856 |
1,063 |
1,216 |
4,041 |
0,896 |
1,547 |
2,224 |
3,682 |
4,853 |
1,063 |
|
С |
1,216 |
3,990 |
0,913 |
1,518 |
2,183 |
3,647 |
4,826 |
1,091 |
1,216 |
3,996 |
0,913 |
1,518 |
2,190 |
3,639 |
4,830 |
1,091 |
|
D |
1,601 |
3,992 |
0,928 |
1,587 |
2,210 |
3,674 |
4,774 |
1,000 |
1,587 |
3,998 |
0,928 |
1,574 |
2,210 |
3,682 |
4,765 |
1,032 |
|
Е |
1,281 |
3,998 |
0,940 |
1,547 |
2,217 |
3,619 |
4,871 |
1,091 |
1,216 |
3,994 |
0,940 |
1,547 |
2,231 |
3,624 |
4,864 |
1,119 |
|
F |
1,216 |
4,135 |
0,896 |
1,504 |
2,257 |
3,662 |
4,946 |
1,119 |
1,193 |
4,115 |
0,862 |
1,533 |
2,237 |
3,632 |
4,903 |
1,119 |
|
G |
1,239 |
3,996 |
0,917 |
1,518 |
2,197 |
3,586 |
4,850 |
1,032 |
1,301 |
3,992 |
0,839 |
1,518 |
2,197 |
3,570 |
4,832 |
0,976 |
|
Н |
1,260 |
4,051 |
0,921 |
1,474 |
2,204 |
3,674 |
4,860 |
1,032 |
1,216 |
4,031 |
0,892 |
1,518 |
2,204 |
3,647 |
4,856 |
1,000 |
|
J |
1,281 |
4,086 |
0,932 |
1,587 |
2,231 |
3,662 |
4,873 |
1,119 |
1,281 |
4,027 |
0,932 |
1,547 |
2,231 |
3,632 |
4,847 |
1,119 |
Таблица Г.3 - Критические значения критерия Кохрена для 1 %-ного уровня значимости для n оценок дисперсий и v степеней свободы
Критическое значение критерия Кохрена при числе степеней свободы v |
||||||||||
1 |
2 |
3 |
4 |
5 |
10 |
15 |
20 |
30 |
50 |
|
3 |
0,9933 |
0,9423 |
0,8831 |
0,8335 |
0,7933 |
0,6743 |
0,6145 |
0,5775 |
0,5327 |
0,4872 |
4 |
0,9676 |
0,8643 |
0,7814 |
0,7212 |
0,6761 |
0,5536 |
0,4964 |
0,4620 |
0,4213 |
0,3808 |
5 |
0,9279 |
0,7885 |
0,6957 |
0,6329 |
0,5875 |
0,4697 |
0,4168 |
0,3855 |
0,3489 |
0,3131 |
6 |
0,8828 |
0,7218 |
0,6258 |
0,5635 |
0,5195 |
0,4084 |
0,3597 |
0,3312 |
0,2982 |
0,2661 |
7 |
0,8376 |
0,6644 |
0,5685 |
0,5080 |
0,4659 |
0,3616 |
0,3167 |
0,2907 |
0,2606 |
0,2316 |
8 |
0,7945 |
0,6152 |
0,5209 |
0,4627 |
0,4227 |
0,3248 |
0,2832 |
0,2592 |
0,2316 |
0,2052 |
9 |
0,7544 |
0,5727 |
0,4810 |
0,4251 |
0,3870 |
0,2950 |
0,2563 |
0,2340 |
0,2086 |
0,1842 |
10 |
0,7175 |
0,5358 |
0,4469 |
0,3934 |
0,3572 |
0,2704 |
0,2342 |
0,2135 |
0,1898 |
0,1673 |
11 |
0,6837 |
0,5036 |
0,4175 |
0,3663 |
0,3318 |
0,2497 |
0,2157 |
0,1963 |
0,1742 |
0,1532 |
12 |
0,6528 |
0,4751 |
0,3919 |
0,3428 |
0,3099 |
0,2321 |
0,2000 |
0,1818 |
0,1611 |
0,1414 |
13 |
0,6245 |
0,4498 |
0,3695 |
0,3223 |
0,2909 |
0,2169 |
0,1865 |
0,1693 |
0,1498 |
0,1313 |
14 |
0,5985 |
0,4272 |
0,3495 |
0,3043 |
0,2741 |
0,2036 |
0,1748 |
0,1585 |
0,1400 |
0,1226 |
15 |
0,5747 |
0,4069 |
0,3318 |
0,2882 |
0,2593 |
0,1919 |
0,1645 |
0,1490 |
0,1315 |
0,1150 |
20 |
0,4799 |
0,3297 |
0,2654 |
0,2288 |
0,2048 |
0,1496 |
0,1274 |
0,1150 |
0,1010 |
0,0879 |
25 |
0,4130 |
0,2782 |
0,2220 |
0,1904 |
0,1699 |
0,1230 |
0,1043 |
0,0939 |
0,0822 |
0,0713 |
30 |
0,3632 |
0,2412 |
0,1914 |
0,1635 |
0,1455 |
0,1046 |
0,0885 |
0,0794 |
0,0694 |
0,0600 |
35 |
0,3247 |
0,2134 |
0,1685 |
0,1435 |
0,1274 |
0,0912 |
0,0769 |
0,0690 |
0,0601 |
0,0519 |
40 |
0,2940 |
0,1916 |
0,1507 |
0,1281 |
0,1136 |
0,0809 |
0,0681 |
0,0610 |
0,0531 |
0,0457 |
45 |
0,2690 |
0,1740 |
0,1364 |
0,1158 |
0,1025 |
0,0727 |
0,0611 |
0,0547 |
0,0475 |
0,0409 |
50 |
0,2481 |
0,1596 |
0,1248 |
0,1057 |
0,0935 |
0,0661 |
0,0555 |
0,0496 |
0,0431 |
0,0370 |
60 |
0,2151 |
0,1371 |
0,1068 |
0,0902 |
0,0796 |
0,0561 |
0,0469 |
0,0419 |
0,0363 |
0,0311 |
70 |
0,1903 |
0,1204 |
0,0935 |
0,0788 |
0,0695 |
0,0487 |
0,0407 |
0,0363 |
0,0314 |
0,0269 |
80 |
0,1709 |
0,1075 |
0,0832 |
0,0701 |
0,0617 |
0,0431 |
0,0360 |
0,0320 |
0,0277 |
0,0236 |
90 |
0,1553 |
0,0972 |
0,0751 |
0,0631 |
0,0555 |
0,0387 |
0,0322 |
0,0287 |
0,0248 |
0,0211 |
100 |
0,1424 |
0,0888 |
0,0685 |
0,0575 |
0,0505 |
0,0351 |
0,0292 |
0,0260 |
0,0224 |
0,0191 |
Эти значения представляют осторожные аппроксимации, рассчитанные с помощью неравенства Бонферрони [4] как верхняя 0,01/n фракталь бета - распределения. Промежуточные значения в колонке для n оценок дисперсии могут быть получены с помощью линейной интерполяции обратных величин табулированных значений. Промежуточные значения для степеней свободы v могут быть получены с помощью интерполяции второго порядка (квадратической) для обратных величин табулированных значений.
Таблица Г.4 - Критические значения, используемые для выявления аномальных результатов при испытании по Хокинсу для v = (0¸200) и n = (3¸50)
Критическое значение при числе степеней свободы v |
||||||||||||
0 |
5 |
10 |
15 |
20 |
30 |
40 |
50 |
70 |
100 |
150 |
200 |
|
3 |
0,8165 |
0,7240 |
0,6100 |
0,5328 |
0,4781 |
0,4049 |
0,3574 |
0,3233 |
0,2769 |
0,2340 |
0,1926 |
0,1674 |
4 |
0,8639 |
0,7505 |
0,6405 |
0,5644 |
0,5094 |
0,4345 |
0,3850 |
0,3492 |
0,3000 |
0,2541 |
0,2096 |
0,1824 |
5 |
0,8818 |
0,7573 |
0,6530 |
0,5796 |
0,5258 |
0,4510 |
0,4012 |
0,3647 |
0,3142 |
0,2668 |
0,2204 |
0,1920 |
6 |
0,8823 |
0,7554 |
0,6547 |
0,5869 |
0,5347 |
0,4612 |
0,4115 |
0,3749 |
0,3238 |
0,2755 |
0,2280 |
0,1988 |
7 |
0,8733 |
0,7493 |
0,6567 |
0,5898 |
0,5394 |
0,4676 |
0,4184 |
0,3819 |
0,3307 |
0,2819 |
0,2337 |
0,2039 |
8 |
0,8596 |
0,7409 |
0,6538 |
0,5901 |
0,5415 |
0,4715 |
0,4231 |
0,3869 |
0,3358 |
0,2868 |
0,2381 |
0,2079 |
9 |
0,8439 |
0,7314 |
0,6493 |
0,5886 |
0,5418 |
0,4738 |
0,4262 |
0,3905 |
0,3396 |
0,2906 |
0,2416 |
0,2112 |
10 |
0,8274 |
0,7213 |
0,6439 |
0,5861 |
0,5411 |
0,4750 |
0,4283 |
0,3930 |
0,3426 |
0,2936 |
0,2445 |
0,2139 |
11 |
0,8108 |
0,7111 |
0,6380 |
0,5828 |
0,5394 |
0,4753 |
0,4295 |
0,3948 |
0,3448 |
0,2961 |
0,2469 |
0,2162 |
12 |
0,7947 |
0,7010 |
0,6318 |
0,5790 |
0,5373 |
0,4750 |
0,4302 |
0,3960 |
0,3466 |
0,2981 |
0,2489 |
0,2181 |
13 |
0,7791 |
0,6910 |
0,6254 |
0,5749 |
0,5347 |
0,4742 |
0,4304 |
0,3968 |
0,3479 |
0,2997 |
0,2507 |
0,2198 |
14 |
0,7642 |
0,6812 |
0,6189 |
0,5706 |
0,5319 |
0,4731 |
0,4302 |
0,3972 |
0,3489 |
0,3011 |
0,2521 |
0,2212 |
15 |
0,7500 |
0,6717 |
0,6125 |
0,5662 |
0,5288 |
0,4717 |
0,4298 |
0,3973 |
0,3496 |
0,3021 |
0,2534 |
0,2225 |
16 |
0,7364 |
0,6625 |
0,6061 |
0,5617 |
0,5256 |
0,4701 |
0,4291 |
0,3972 |
0,3501 |
0,3030 |
0,2544 |
0,2236 |
17 |
0,7235 |
0,6535 |
0,5998 |
0,5571 |
0,5223 |
0,4683 |
0,4282 |
0,3968 |
0,3504 |
0,3037 |
0,2554 |
0,2246 |
18 |
0,7112 |
0,6449 |
0,5936 |
0,5526 |
0,5189 |
0,4665 |
0,4272 |
0,3964 |
0,3505 |
0,3043 |
0,2562 |
0,2254 |
19 |
0,6996 |
0,6365 |
0,5876 |
0,5480 |
0,5155 |
0,4645 |
0,4260 |
0,3958 |
0,3506 |
0,3047 |
0,2569 |
0,2262 |
20 |
0,6884 |
0,6286 |
0,5816 |
0,5436 |
0,5120 |
0,4624 |
0,4248 |
0,3951 |
0,3505 |
0,3051 |
0,2575 |
0,2269 |
21 |
0,6778 |
0,6209 |
0,5758 |
0,5392 |
0,5086 |
0,4603 |
0,4235 |
0,3942 |
0,3503 |
0,3053 |
0,2580 |
0,2275 |
22 |
0,6677 |
0,6134 |
0,5702 |
0,5348 |
0,5052 |
0,4581 |
0,4221 |
0,3934 |
0,3500 |
0,3055 |
0,2584 |
0,2280 |
23 |
0,6581 |
0,6062 |
0,5647 |
0,5305 |
0,5018 |
0,4559 |
0,4206 |
0,3924 |
0,3496 |
0,3056 |
0,2588 |
0,2285 |
24 |
0,6488 |
0,5993 |
0,5593 |
0,5263 |
0,4984 |
0,4537 |
0,4191 |
0,3914 |
0,3492 |
0,3056 |
0,2591 |
0,2289 |
25 |
0,6400 |
0,5925 |
0,5540 |
0,5221 |
0,4951 |
0,4515 |
0,4176 |
0,3904 |
0,3488 |
0,3056 |
0,2594 |
0,2293 |
26 |
0,6315 |
0,5861 |
0,5490 |
0,5180 |
0,4918 |
0,4492 |
0,4160 |
0,3893 |
0,3482 |
0,3054 |
0,2596 |
0,2296 |
27 |
0,6234 |
0,5798 |
0,5440 |
0,5140 |
0,4885 |
0,4470 |
0,4145 |
0,3881 |
0,3477 |
0,3053 |
0,2597 |
0,2299 |
28 |
0,6156 |
0,5737 |
0,5392 |
0,5101 |
0,4853 |
0,4447 |
0,4129 |
0,3870 |
0,3471 |
0,3051 |
0,2599 |
0,2302 |
29 |
0,6081 |
0,5678 |
0,5345 |
0,5063 |
0,4821 |
0,4425 |
0,4113 |
0,3858 |
0,3464 |
0,3049 |
0,2600 |
0,2304 |
30 |
0,6009 |
0,5621 |
0,5299 |
0,5025 |
0,4790 |
0,4403 |
0,4097 |
0,3846 |
0,3458 |
0,3047 |
0,2600 |
0,2306 |
35 |
0,5686 |
0,5361 |
0,5086 |
0,4848 |
0,4641 |
0,4294 |
0,4016 |
0,3785 |
0,3421 |
0,3031 |
0,2600 |
0,2312 |
40 |
0,5413 |
0,5136 |
0,4897 |
0,4688 |
0,4504 |
0,4191 |
0,3936 |
0,3722 |
0,3382 |
0,3010 |
0,2594 |
0,2314 |
45 |
0,5179 |
0,4939 |
0,4728 |
0,4542 |
0,4377 |
0,4094 |
0,3859 |
0,3660 |
0,3340 |
0,2987 |
0,2586 |
0,2312 |
50 |
0,4975 |
0,4764 |
0,4577 |
0,4410 |
0,4260 |
0,4002 |
0,3785 |
0,3600 |
0,3299 |
0,2962 |
0,2575 |
0,2308 |
Критические значения в таблице откорректированы до четвертого десятичного знака в диапазоне значений n = (3¸30) и v = 0; 5; 15 и 30 [4]. Другие значения выведены с помощью неравенства Бонферрони
, (Г.1)
где t является верхней 0,005/n фрактилью переменной t с n + v - 2 степенями свободы. Рассчитанные таким образом значения являются довольно осторожными оценками с максимальной ошибкой относительно истинного значения около 0,0002. Промежуточные значения для n и v могут быть получены с помощью интерполяции второго порядка, использующей квадрат обратных величин табулированных значений. Подобным образом экстраполяция второго порядка может быть использована для оценки значений, превосходящих n = 50 и v = 200.
Таблица Г.5 - Критические значения для t-критерия Стьюдента
Критические значения при уровне значимости при двусторонней постановке задачи, % |
|||||||
50 |
40 |
30 |
20 |
10 |
5 |
1 |
|
1 |
1,000 |
1,376 |
1,963 |
3,078 |
6,314 |
12,706 |
63,657 |
2 |
0,816 |
1,061 |
1,386 |
1,886 |
2,920 |
4,303 |
9,925 |
3 |
0,765 |
0,978 |
1,250 |
1,638 |
2,353 |
3,182 |
5,841 |
4 |
0,741 |
0,941 |
1,190 |
1,533 |
2,132 |
2,776 |
4,604 |
5 |
0,727 |
0,920 |
1,156 |
1,476 |
2,015 |
2,571 |
4,032 |
6 |
0,718 |
0,906 |
1,134 |
1,440 |
1,943 |
2,447 |
3,707 |
7 |
0,711 |
0,896 |
1,119 |
1,415 |
1,895 |
2,365 |
3,499 |
8 |
0,706 |
0,889 |
1,108 |
1,397 |
1,860 |
2,306 |
3,355 |
9 |
0,703 |
0,883 |
1,100 |
1,383 |
1,833 |
2,262 |
3,250 |
10 |
0,700 |
0,879 |
1,093 |
1,372 |
1,812 |
2,228 |
3,165 |
11 |
0,697 |
0,876 |
1,088 |
1,363 |
1,796 |
2,201 |
3,106 |
12 |
0,695 |
0,873 |
1,083 |
1,356 |
1,782 |
2,179 |
3,055 |
13 |
0,694 |
0,870 |
1,079 |
1,350 |
1,771 |
2,160 |
3,012 |
14 |
0,692 |
0,868 |
1,076 |
1,345 |
1,761 |
2,145 |
2,977 |
15 |
0,691 |
0,866 |
1,074 |
1,341 |
1,753 |
2,131 |
2,947 |
16 |
0,690 |
0,865 |
1,071 |
1,337 |
1,746 |
2,120 |
2,921 |
17 |
0,689 |
0,863 |
1,069 |
1,333 |
1,740 |
2,110 |
2,898 |
18 |
0,688 |
0,862 |
1,067 |
1,330 |
1,734 |
2,101 |
2,878 |
19 |
0,688 |
0,861 |
1,066 |
1,328 |
1,729 |
2,093 |
2,861 |
20 |
0,687 |
0,860 |
1,064 |
1,325 |
1,725 |
2,086 |
2,845 |
21 |
0,686 |
0,859 |
1,063 |
1,323 |
1,721 |
2,080 |
2,831 |
22 |
0,686 |
0,858 |
1,061 |
1,321 |
1,717 |
2,074 |
2,819 |
23 |
0,685 |
0,858 |
1,060 |
1,319 |
1,714 |
2,069 |
2,807 |
24 |
0,685 |
0,857 |
1,059 |
1,318 |
1,711 |
2,064 |
2,797 |
25 |
0,684 |
0,856 |
1,058 |
1,316 |
1,708 |
2,060 |
2,787 |
26 |
0,684 |
0,856 |
1,058 |
1,315 |
1,706 |
2,056 |
2,779 |
27 |
0,684 |
0,855 |
1,057 |
1,314 |
1,703 |
2,052 |
2,771 |
28 |
0,683 |
0,855 |
1,056 |
1,313 |
1,701 |
2,048 |
2,763 |
29 |
0,683 |
0,854 |
1,055 |
1,311 |
1,699 |
2,045 |
2,756 |
30 |
0,683 |
0,854 |
1,055 |
1,310 |
1,697 |
2,042 |
2,750 |
40 |
0,681 |
0,851 |
1,050 |
1,303 |
1,684 |
2,021 |
2,704 |
50 |
0,680 |
0,849 |
1,048 |
1,299 |
1,676 |
2,008 |
2,678 |
60 |
0,679 |
0,848 |
1,046 |
1,296 |
1,671 |
2,000 |
2,660 |
120 |
0,677 |
0,845 |
1,041 |
1,289 |
1,658 |
1,980 |
2,617 |
¥ |
0,674 |
0,842 |
1,036 |
1,282 |
1,645 |
1,960 |
2,576 |
Таблица Г.6.1 - Критические значения для F-критерия Фишера на 5 %-ном уровне значимости
v2 |
v1 |
|||||||||||||||
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
15 |
20 |
30 |
50 |
100 |
200 |
500 |
¥ |
|
3 |
9,28 |
9,12 |
9,01 |
8,94 |
8,89 |
8,85 |
8,81 |
8,79 |
8,70 |
8,66 |
8,62 |
8,58 |
8,55 |
8,54 |
8,53 |
8,53 |
4 |
6,59 |
6,39 |
6,26 |
6,16 |
6,09 |
6,04 |
6,00 |
5,96 |
5,86 |
5,80 |
5,75 |
5,70 |
5,66 |
5,65 |
5,64 |
5,63 |
5 |
5,41 |
5,19 |
5,05 |
4,95 |
4,88 |
4,82 |
4,77 |
4,74 |
4,62 |
4,56 |
4,50 |
4,44 |
4,41 |
4,39 |
4,37 |
4,37 |
6 |
4,76 |
4,53 |
4,39 |
4,28 |
4,21 |
4,15 |
4,10 |
4,06 |
3,94 |
3,87 |
3,81 |
3,75 |
3,71 |
3,69 |
3,68 |
3,67 |
7 |
4,35 |
4,12 |
3,97 |
3,87 |
3,79 |
3,73 |
3,68 |
3,64 |
3,51 |
3,44 |
3,38 |
3,32 |
3,27 |
3,25 |
3,24 |
3,23 |
8 |
4,07 |
3,84 |
3,69 |
3,58 |
3,50 |
3,44 |
3,39 |
3,35 |
3,22 |
3,15 |
3,08 |
3,02 |
2,97 |
2,95 |
2,94 |
2,93 |
9 |
3,86 |
3,63 |
3,48 |
3,37 |
3,29 |
3,23 |
3,18 |
3,14 |
3,01 |
2,94 |
2,86 |
2,80 |
2,76 |
2,73 |
2,72 |
2,71 |
10 |
3,71 |
3,48 |
3,33 |
3,22 |
3,14 |
3,07 |
3,02 |
2,98 |
2,85 |
2,77 |
2,70 |
2,64 |
2,59 |
2,56 |
2,55 |
2,54 |
15 |
3,29 |
3,06 |
2,90 |
2,79 |
2,71 |
2,64 |
2,59 |
2,54 |
2,40 |
2,33 |
2,25 |
2,18 |
2,12 |
2,10 |
2,08 |
2,07 |
20 |
3,10 |
2,87 |
2,71 |
2,60 |
2,51 |
2,45 |
2,39 |
2,35 |
2,20 |
2,12 |
2,04 |
1,97 |
1,91 |
1,88 |
1,86 |
1,84 |
30 |
2,92 |
2,69 |
2,53 |
2,42 |
2,33 |
2,27 |
2,21 |
2,16 |
2,01 |
1,93 |
1,84 |
1,76 |
1,70 |
1,66 |
1,64 |
1,62 |
50 |
2,79 |
2,56 |
2,40 |
2,29 |
2,20 |
2,13 |
2,07 |
2,03 |
1,87 |
1,78 |
1,69 |
1,60 |
1,52 |
1,48 |
1,46 |
1,44 |
100 |
2,70 |
2,46 |
2,31 |
2,19 |
2,10 |
2,03 |
1,97 |
1,93 |
1,77 |
1,68 |
1,57 |
1,48 |
1,39 |
1,34 |
1,31 |
1,28 |
200 |
2,65 |
2,42 |
2,26 |
2,14 |
2,06 |
1,98 |
1,93 |
1,88 |
1,72 |
1,62 |
1,52 |
1,41 |
1,32 |
1,26 |
1,22 |
1,19 |
500 |
2,62 |
2,39 |
2,23 |
2,12 |
2,03 |
1,96 |
1,90 |
1,85 |
1,69 |
1,59 |
1,48 |
1,38 |
1,28 |
1,21 |
1,16 |
1,11 |
¥ |
2,60 |
2,37 |
2,21 |
2,10 |
2,01 |
1,94 |
1,88 |
1,83 |
1,67 |
1,57 |
1,46 |
1,35 |
1,24 |
1,17 |
1,11 |
1,00 |
Таблица Г.6.2 - Критические значения для F-критерия Фишера на 1 %-ном уровне значимости
v2 |
v1 |
|||||||||||||||
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
15 |
20 |
30 |
50 |
100 |
200 |
500 |
¥ |
|
3 |
29,5 |
28,7 |
28,2 |
27,9 |
27,7 |
27,5 |
27,3 |
27,2 |
26,9 |
26,7 |
26,5 |
26,4 |
26,2 |
26,2 |
26,1 |
26,1 |
4 |
16,7 |
16,0 |
15,5 |
15,2 |
15,0 |
14,8 |
14,7 |
14,5 |
14,2 |
14,0 |
13,8 |
13,7 |
13,6 |
13,5 |
13,5 |
13,5 |
5 |
12,1 |
11,4 |
11,0 |
10,7 |
10,5 |
10,3 |
10,2 |
10,1 |
9,72 |
9,55 |
9,38 |
9,24 |
9,13 |
9,08 |
9,04 |
9,02 |
6 |
9,78 |
9,15 |
8,75 |
8,47 |
8,26 |
8,10 |
7,98 |
7,87 |
7,56 |
7,40 |
7,23 |
7,09 |
6,99 |
6,93 |
6,90 |
6,88 |
7 |
8,45 |
7,85 |
7,46 |
7,19 |
6,99 |
6,84 |
6,72 |
6,62 |
6,31 |
6,16 |
5,99 |
5,86 |
5,75 |
5,70 |
5,67 |
5,65 |
8 |
7,59 |
7,01 |
6,63 |
6,37 |
6,18 |
6,03 |
5,91 |
5,81 |
5,52 |
5,36 |
5,20 |
5,07 |
4,96 |
4,91 |
4,88 |
4,86 |
9 |
6,99 |
6,42 |
6,06 |
5,80 |
5,61 |
5,47 |
5,35 |
5,26 |
4,96 |
4,81 |
4,65 |
4,52 |
4,42 |
4,36 |
4,33 |
4,31 |
10 |
6,55 |
5,99 |
5,64 |
5,39 |
5,20 |
5,06 |
4,94 |
4,85 |
4,56 |
4,41 |
4,25 |
4,12 |
4,01 |
3,96 |
3,93 |
3,91 |
15 |
5,42 |
4,89 |
4,56 |
4,32 |
4,14 |
4,00 |
3,89 |
3,80 |
3,52 |
3,37 |
3,21 |
3,08 |
2,98 |
2,92 |
2,89 |
2,87 |
20 |
4,94 |
4,43 |
4,10 |
3,87 |
3,70 |
3,56 |
3,46 |
3,37 |
3,09 |
2,94 |
2,78 |
2,64 |
2,54 |
2,48 |
2,44 |
2,42 |
30 |
4,51 |
4,02 |
3,70 |
3,47 |
3,30 |
3,17 |
3,07 |
2,98 |
2,70 |
2,55 |
2,39 |
2,25 |
2,13 |
2,07 |
2,03 |
2,01 |
50 |
4,20 |
3,72 |
3,41 |
3,19 |
3,02 |
2,89 |
2,79 |
2,70 |
2,42 |
2,27 |
2,10 |
1,95 |
1,82 |
1,76 |
1,71 |
1,68 |
100 |
3,98 |
3,51 |
3,21 |
2,99 |
2,82 |
2,69 |
2,59 |
2,50 |
2,22 |
2,07 |
1,89 |
1,73 |
1,60 |
1,52 |
1,47 |
1,43 |
200 |
3,88 |
3,41 |
3,11 |
2,89 |
2,73 |
2,60 |
2,50 |
2,41 |
2,13 |
1,97 |
1,79 |
1,63 |
1,48 |
1,39 |
1,33 |
1,28 |
500 |
3,82 |
3,36 |
3,05 |
2,84 |
2,68 |
2,55 |
2,44 |
2,36 |
2,07 |
1,92 |
1,74 |
1,56 |
1,41 |
1,31 |
1,23 |
1,16 |
¥ |
3,78 |
3,32 |
3,02 |
2,80 |
2,64 |
2,51 |
2,41 |
2,32 |
2,04 |
1,88 |
1,70 |
1,52 |
1,36 |
1,25 |
1,15 |
1,00 |
Примечание - Источником для таблиц Г.6.1 - Г.6.4 является [9]. |
Таблица Г.6.3 - Критические значения для F- критерия Фишера на 0,1 %-ном уровне значимости
v2 |
v1 |
|||||||||||||||
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
15 |
20 |
30 |
50 |
100 |
200 |
500 |
¥ |
|
3 |
141 |
137 |
135 |
133 |
132 |
131 |
130 |
129 |
127 |
126 |
125 |
125 |
124 |
124 |
124 |
124 |
4 |
56,2 |
53,4 |
51,7 |
50,5 |
49,7 |
49,0 |
48,5 |
48,0 |
46,8 |
46,1 |
45,4 |
44,9 |
44,5 |
44,3 |
44,1 |
44,0 |
5 |
33,2 |
31,1 |
29,8 |
28,8 |
28,2 |
27,6 |
27,2 |
26,9 |
25,9 |
25,4 |
24,9 |
24,4 |
24,1 |
23,9 |
23,8 |
23,8 |
6 |
23,7 |
21,9 |
20,8 |
20,0 |
19,5 |
19,0 |
18,7 |
18,4 |
17,6 |
17,1 |
16,7 |
16,3 |
16,0 |
15,9 |
15,8 |
15,8 |
7 |
18,8 |
17,2 |
16,2 |
15,5 |
15,0 |
14,6 |
14,3 |
14,1 |
13,3 |
12,9 |
12,5 |
12,2 |
11,9 |
11,8 |
11,7 |
11,7 |
8 |
15,8 |
14,4 |
13,5 |
12,9 |
12,4 |
12,0 |
11,8 |
11,5 |
10,8 |
10,5 |
10,1 |
9,80 |
9,57 |
9,46 |
9,39 |
9,34 |
9 |
13,9 |
12,6 |
11,7 |
11,1 |
10,7 |
10,4 |
10,1 |
9,89 |
9,24 |
8,90 |
8,55 |
8,26 |
8,04 |
7,93 |
7,86 |
7,81 |
10 |
12,6 |
11,3 |
10,5 |
9,92 |
9,52 |
9,20 |
8,96 |
8,75 |
8,13 |
7,80 |
7,47 |
7,19 |
6,98 |
6,87 |
6,81 |
6,76 |
15 |
9,34 |
8,25 |
7,57 |
7,09 |
6,74 |
6,47 |
6,26 |
6,08 |
5,53 |
5,25 |
4,95 |
4,70 |
4,51 |
4,41 |
4,35 |
4,31 |
20 |
8,10 |
7,10 |
6,46 |
6,02 |
5,69 |
5,44 |
5,24 |
5,08 |
4,56 |
4,29 |
4,01 |
3,77 |
3,58 |
3,48 |
3,42 |
3,38 |
30 |
7,05 |
6,12 |
5,53 |
5,12 |
4,82 |
4,58 |
4,39 |
4,24 |
3,75 |
3,49 |
3,22 |
2,98 |
2,79 |
2,69 |
2,63 |
2,59 |
50 |
6,34 |
5,46 |
4,90 |
4,51 |
4,22 |
4,00 |
3,82 |
3,67 |
3,20 |
2,95 |
2,68 |
2,44 |
2,24 |
2,14 |
2,07 |
2,03 |
100 |
5,85 |
5,01 |
4,48 |
4,11 |
3,83 |
3,61 |
3,44 |
3,30 |
2,84 |
2,59 |
2,32 |
2,07 |
1,87 |
1,75 |
1,68 |
1,62 |
200 |
5,64 |
4,81 |
4,29 |
3,92 |
3,65 |
3,43 |
3,26 |
3,12 |
2,67 |
2,42 |
2,15 |
1,90 |
1,68 |
1,55 |
1,46 |
1,39 |
500 |
5,51 |
4,69 |
4,18 |
3,82 |
3,54 |
3,33 |
3,16 |
3,02 |
2,58 |
2,33 |
2,05 |
1,80 |
1,57 |
1,43 |
1,32 |
1,23 |
¥ |
5,42 |
4,62 |
4,10 |
3,74 |
3,47 |
3,27 |
3,10 |
2,96 |
2,51 |
2,27 |
1,99 |
1,73 |
1,49 |
1,34 |
1,21 |
1,00 |
Таблица Г.6.4 - Критические значения для F-критерия Фишера на 0,05 %-ном уровне значимости
v2 |
v1 |
|||||||||||||||
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
15 |
20 |
30 |
50 |
100 |
200 |
500 |
¥ |
|
3 |
225 |
218 |
214 |
211 |
209 |
208 |
207 |
206 |
203 |
201 |
199 |
198 |
197 |
197 |
196 |
196 |
4 |
80,1 |
76,1 |
73,6 |
71,9 |
70,6 |
69,7 |
68,9 |
68,3 |
66,5 |
65,5 |
64,6 |
63,8 |
63,2 |
62,9 |
62,7 |
62,6 |
5 |
44,4 |
41,5 |
39,7 |
38,5 |
37,6 |
36,9 |
36,4 |
35,9 |
34,6 |
33,9 |
33,1 |
32,5 |
32,1 |
31,8 |
31,7 |
31,6 |
6 |
30,4 |
28,1 |
26,6 |
25,6 |
24,9 |
24,3 |
23,9 |
23,5 |
22,4 |
21,9 |
21,4 |
20,9 |
20,5 |
20,1 |
20,2 |
20,1 |
7 |
23,5 |
21,4 |
20,2 |
19,3 |
18,7 |
18,2 |
17,8 |
17,5 |
16,5 |
16,0 |
15,5 |
15,1 |
14,7 |
14,6 |
14,5 |
14,4 |
8 |
19,4 |
17,6 |
16,4 |
15,7 |
15,1 |
14,6 |
14,3 |
14,0 |
13,1 |
12,7 |
12,2 |
11,8 |
11,6 |
11,4 |
11,4 |
11,3 |
9 |
16,8 |
15,1 |
14,1 |
13,3 |
12,8 |
12,4 |
12,1 |
11,8 |
11,0 |
10,6 |
10,2 |
9,80 |
9,53 |
9,40 |
9,32 |
9,26 |
10 |
15,0 |
13,4 |
12,4 |
11,8 |
11,3 |
10,9 |
10,6 |
10,3 |
9,56 |
9,16 |
8,75 |
8,42 |
8,16 |
8,04 |
7,96 |
7,90 |
15 |
10,8 |
9,48 |
8,66 |
8,10 |
7,68 |
7,36 |
7,11 |
6,91 |
6,27 |
5,93 |
5,58 |
5,29 |
5,06 |
4,94 |
4,87 |
4,83 |
20 |
9,20 |
8,02 |
7,28 |
6,76 |
6,38 |
6,08 |
5,85 |
5,66 |
5,07 |
4,75 |
4,42 |
4,15 |
3,93 |
3,82 |
3,75 |
3,70 |
30 |
7,90 |
6,82 |
6,14 |
5,66 |
5,31 |
5,04 |
4,82 |
4,65 |
4,10 |
3,80 |
3,48 |
3,22 |
3,00 |
2,89 |
2,82 |
2,78 |
50 |
7,01 |
6,01 |
5,37 |
4,93 |
4,60 |
4,34 |
4,14 |
3,98 |
3,45 |
3,16 |
2,86 |
2,59 |
2,37 |
2,25 |
2,17 |
2,13 |
100 |
6,43 |
5,47 |
4,87 |
4,44 |
4,13 |
3,89 |
3,70 |
3,54 |
3,03 |
2,75 |
2,44 |
2,18 |
1,95 |
1,82 |
1,74 |
1,67 |
200 |
6,16 |
5,23 |
4,64 |
4,23 |
3,92 |
3,68 |
3,49 |
3,34 |
2,83 |
2,56 |
2,25 |
1,98 |
1,74 |
1,60 |
1,50 |
1,42 |
500 |
6,01 |
5,09 |
4,51 |
4,10 |
3,80 |
3,56 |
3,36 |
3,21 |
2,72 |
2,45 |
2,14 |
1,87 |
1,61 |
1,46 |
1,34 |
1,24 |
¥ |
5,91 |
5,00 |
4,42 |
4,02 |
3,72 |
3,48 |
3,30 |
3,14 |
2,65 |
2,37 |
2,07 |
1,79 |
1,53 |
1,36 |
1,22 |
1,00 |
Критические значения для F-критерия, не вошедшие в таблицу, могут быть приближенно рассчитаны с помощью интерполяции второго порядка (квадратической) табличных значений.
Критические значения F-критерия, соответствующие v1 > 30 и v2 > 30 степеней свободы и уровню значимости 100 (1 - Р) %, где Р - доверительная вероятность, также могут быть приближенно рассчитаны по формуле
, (Г.2)
где .
Значения A(P), B(P) и С(P) для типичных значений уровня значимости 100(1 - P) % приведены в таблице Г.6.5.
Таблица Г.6.5
А(Р) |
В(Р) |
С(Р) |
|
10 |
1,1131 |
0,77 |
0,527 |
5 |
1,4287 |
0,95 |
0,681 |
2,5 |
1,7023 |
1,14 |
0,846 |
1,0 |
2,0206 |
1,40 |
1,073 |
0,5 |
2,2373 |
1,61 |
1,250 |
0,1 |
2,6841 |
2,09 |
1,672 |
0,05 |
2,8580 |
2,30 |
1,857 |
Для не вошедших в таблицу значений доверительной вероятности Р критические значения F-критерия могут быть получены с помощью квадратической (второго порядка) интерполяции/экстраполяции log(F) (либо табулированных, либо оцененных по формуле) в зависимости от log (1 - Р).
Критические значения ординат нормированного нормального распределения приведены в таблице Г.7.
Таблица Г.7
0,70 |
0,80 |
0,90 |
0,95 |
0,975 |
0,99 |
0,995 |
|
Z |
0,524 |
0,842 |
1,282 |
1,645 |
1,960 |
2,326 |
2,576 |
2 (1 - Р) |
0,60 |
0,40 |
0,20 |
0,10 |
0,05 |
0,02 |
0,01 |
Критические значения Z, соответствующие доверительной вероятности Р при односторонней постановке задачи или доверительной вероятности (уровню значимости) 2 (1 - Р) при двусторонней постановке задачи, приведены в терминах «нормированной нормальной переменной»
, (Г.3)
где m и s - параметры нормального распределения - среднее и стандартное отклонение соответственно.
Если Р становится меньше 0,5, подходящее критическое значение становится отрицательным, соответствующим доверительной вероятности (1 - Р).
Виды зависимостей приведены в таблице Д.1.
Таблица Д.1
Преобразование |
Линейная зависимость в виде, который используется для подгонки |
dx/dy |
Примечание |
||
1. D = K(m + В) |
у = log (x + В) «логарифмическое» |
log(D) = b0 + b1log(m + В) + b2T + b3Tlog(m + В) |
(x+B) |
Меры предосторожности должны быть приняты при малых значениях (x + В), так как влияние округления становится существенным |
|
Испытание: b1 = 1 |
|||||
0 < m + В |
|||||
2. D = KmB |
y=x1-B |
log(D) = b0 + b1log(m) + b2T + b3Tlog(m) |
xB (1 - B) |
Линия подгонки будет проходить через начало координат. Общим случаем является ситуация, когда B = 1/2 или 2 |
|
B ¹ 1 |
«степенное» |
||||
Испытание: b1 ¹ 0 |
|||||
3.
|
|
log(D) = b0 + b1log[m (В - m)] + b2T + b3Tlog[m (В - m)] |
|
Этот случай часто
возникает, когда результаты сообщают как проценты или качественно как «счет».
При малых значениях «x» во всем диапазоне преобразование
трансформируют к виду |
|
Испытание: b1 = 1/2 |
|||||
типа «arcsin» |
|||||
0 £ m £ B |
|||||
4. |
|
log(D) = b0 + b1log[m (В - m)] + b2T + b3Tlog[m (В - m)] |
x (B - x) В |
Этот случай возникает, когда сообщенные результаты оценены по балльной шкале от 0 до В. При малых значениях «x» во всем диапазоне преобразование трансформируют к виду у = log (x), специальному случаю пункта 1, приведенному выше |
|
Испытание: b1 = 1 |
|||||
0 £ m £ B |
|||||
типа «logistic» |
|||||
5. |
|
log(D) = b0 + b1log(m2 +В2) + b2T + b3Tlog(m2 +В2) |
(x2 + B2) В |
Линия подгонки не проходит через начало координат. При малых значениях В преобразование трансформируют к виду у = 1/х, специальному случаю пункта 2, приведенному выше |
|
Испытание: b1 = 1 |
|||||
типа «arctan» |
|||||
В > 0 |
Приведенные выше виды зависимостей представлены графически на рисунках Д.1 - Д.5. Во всех случаях К - произвольная положительная постоянная. Уравнение зависимости, которое используют для подгонки, включает фиктивную переменную T (формула E.1), с помощью которой возможно проверить, различаются ли значимо примененные для повторяемости (сходимости) и воспроизводимости преобразования.
Д.1 Процедура выполнения преобразования
Процедура установления правильного типа преобразования и его параметра В должна включать следующие этапы:
а) построение графика зависимости лабораторных стандартных отклонений D и стандартных отклонений для повторных испытаний d от средних по пробам (т) в виде диаграмм рассеяния и выбор зависимости (рисунки Д.1 - Д.5);
б) оценки параметра преобразования В по диаграммам рассеяния за исключением степенного преобразования (вид 2 в таблице Д.1). Для преобразований вида «arcsin» (вид 3) и «logistic» (вид 4) этот параметр будет известен, так как в обоих случаях В - верхний предел либо шкалы в баллах, либо «счета», в терминах которых определены результаты. Для логарифмического преобразования (вид 1) рассчитывают В по отрезку, отсекаемому на ординате, и наклону прямой, оцененной по диаграммам рассеяния. Подобным образом оценивают В по отрезку, отсекаемому на ординате, в случае преобразования вида «arctan» (вид 5). В любом случае В следует округлить так, чтобы получить значение, которое удовлетворяет графикам для лабораторных стандартных отклонений и стандартных отклонений для повторных испытаний;
в) в соответствии с расчетной процедурой по приложению Е.3 осуществляют подгонку под определенную линию в таблице Д.1 для выбранного преобразования. Коэффициент b1 для степенного преобразования должен значимо отличаться от нуля и обеспечивать оценку В, которую округляют до разумного значения. Коэффициент b1 для преобразования вида «arcsin» не должен значимо отличаться от 0,5. Подобным образом b1 для преобразований вида «logistic», «log» и «arctan» не должен значимо отличаться от единицы. В каждом случае испытание, установленное в таблице Д.1, необходимо применять на 5 %-ном уровне значимости. Попадание результата испытаний в критическую область означает, что либо некорректен выбор типа преобразования, либо некорректна оценка параметра В. Подобным образом коэффициент b3 в каждом случае должен быть проверен оценкой нуля. Отрицательный результат в этом случае означает, что преобразования для повторяемости (сходимости) и для воспроизводимости различаются. В некоторых случаях наличие аномальных результатов по 4.2 может вызывать такое различие;
г) если испытания, примененные выше, дали положительные результаты, проводят соответствующим образом преобразование всех результатов, пересчитывают средние и стандартные отклонения, используя преобразованные результаты, и строят новые диаграммы рассеяния, как предложено в пункте а). Теперь эти диаграммы показывают постоянный уровень для лабораторного стандартного отклонения и постоянный уровень (но необязательно тот же самый) для стандартного отклонения по повторным испытаниям. Процедура испытания однородности приведена в 4.3.
Диаграммы рассеяния
D = К (m + В), (т + В) > 0
Рисунок Д.1
D = Кm2, В > 1
Рисунок Д.2.1
D = Кm2, 0 < В < 1
Рисунок Д.2.2
, 0 £ m £ B
Рисунок Д.3
, 0 £ m £ B
Рисунок Д.4
, B > 0
Рисунок Д.5
E.1 Пояснение для применения фиктивной переменной
Е.1.1 В общем случае две различные переменные Y1 и Y2 при построении графика зависимости относительно одной и той же независимой переменной Х будут давать различные зависимости:
Y1 = b10 + b11X,
Y2 = b20 + b21X, (E.1)
где коэффициенты bij оценивают с помощью регрессионного анализа. Для того, чтобы сравнить две зависимости, фиктивная переменная Т может быть определена таким образом, что:
Т = T1 - постоянная величина для каждого наблюдения Y1,
Т = T2 - постоянная величина для каждого наблюдения Y2 и
T1 ¹ T2.
E.1.2 Допуская, что Y представляет комбинацию Y1 и Y2 строят график единой зависимости
Y = b0 + b1X + b2T + b3TX, (E.2)
где, как и прежде, коэффициенты bi оценивают с помощью регрессионного анализа. При сравнении уравнений (E.1) и (E.2) очевидно, что
b10 = b0+ b2T1,
b20 = b0+ b2T2, (Е.3)
Поэтому
b10 - b20 = b2(T1 - T2). (Е.4)
Подобным образом
b11 - b21 = b3(T1 - T2). (Е.5)
Для исследования различия между b10 и b20 необходимо испытать только коэффициент b2 как коэффициент, отличный от нуля. Подобным образом для выявления различия между b11 и b21 испытывают коэффициент b3 как коэффициент, отличный от нуля.
Е.1.3 Для T1 и T2 могут быть выбраны любые отличные от нуля значения. Тем не менее, в силу того, что показатель «воспроизводимость» является основой испытаний при контроле качества по спецификациям (разделы 8 и 9), выбором веса при оценивании зависимостей показателей прецизионности («precision») следует отразить это положение. Следует применять «отношение важности» как 2:1 в пользу воспроизводимости путем установления Т1 = 1 и Т2 = -2, когда Т1 относится к графику зависимости лабораторного стандартного отклонения, а Т2 относится к графику зависимости стандартного отклонения для повторных испытаний.
Измененная редакция. Изм. № 1.
E.2 Выбор используемых в регрессионном анализе весов
Е.2.1 Для того, чтобы учитывать относительную прецизионность переменных, полученных при подгонке, в регрессионном анализе следует использовать веса, обратно пропорциональные дисперсии переменных, полученных при подгонке.
Для переменной D, которая является оценкой стандартного отклонения генеральной совокупности s, основанной на v (D) степенях свободы, формулу для дисперсии выражают как
var (D) = s2/2v (D). (E.6)
При замене s2 ее оценкой D2 вес этой переменной приближенно описывают выражением
w (D) = 2v (D)/D2. (E.7)
Очевидно, при увеличении стандартного отклонения D вес будет соответствующим образом уменьшаться. По этой причине переменную, полученную при подгонке как взвешенную регрессию, следует заменить функцией стандартного отклонения, которая дает вес, не зависящий от полученной при подгонке переменной.
Измененная редакция. Изм. № 1.
E.2.2 В случаях, когда функция g (D) подгоняется легче, чем сама переменная D, формулу для дисперсии выражают как
. (E.8)
Поэтому для функции натурального логарифма
. (E.9)
Если теперь заменить s2 ее оценкой D2, то вес для log (D) приближенно будет описываться выражением
w[log (D)] = 2v (D). (Е.10)
Таким образом, при действиях с межлабораторным среднеквадратическим отклонением D и среднеквадратическим отклонением для повторных испытаний d регрессионный анализ следует выполнить в log (D) и log (d), так как тогда при выборе веса будет принято в расчет только количество данных, на которых основано среднеквадратическое отклонение. Зависимость, оцененная таким образом, будет в меньшей степени зависеть от выборок, в которых доля потерянных данных высока.
Е.2.3 Обозначая степени свободы как v (D) для межлабораторного среднего квадратического отклонения D и как v (d) для среднеквадратического отклонения для повторных испытаний d, формулу для расчета весов выражают как
w [log (D)] = 2v (D), (E.11)
w [log (d)] = 2v (d). (E.12)
Примечание - Простая (невзвешенная) регрессия соответствует взвешенной регрессии, в которой все веса имеют постоянное значение, равное единице.
Е.3 Вычислительная процедура при выполнении регрессионного анализа
Е.3.1 Приемы для наилучшей подгонки к прямой линии по формуле (Е.2)
Е.З. 1.1 Сначала составляют таблицу E.1 значений переменных, которые используют для построения графика регрессионной зависимости, вместе с соответствующими весами. Функции g1 и g2 во всех случаях останутся натуральными логарифмами, которые соответствуют определенным преобразованиям, как установлено в приложении Д.2.
При использовании символов, установленных в таблице E.1, формула Е.2 для модели, с помощью которой осуществляют подгонку, принимает вид
y = b0 + b1x1 + b2x2 + b3x3, (E.13)
Отрезок b0, отсекаемый на ординате, можно исключить, переписав выражение в виде
где у, ,
и
являются средними
взвешенными значениями; например,
, (E.15)
где п - число точек (удвоенное число проб), по которым строят график.
Таблица E.1
Функция стандартного отклонения |
Функция выборочного среднего |
Фиктивная переменная Т |
Tg2 |
Вес |
Функция стандартного отклонения g1 |
Функция выборочного среднего g2 |
Фиктивная переменная Т |
Tg2 |
Вес |
|
1 |
g1 (D1) |
g2 (m1) |
1 |
g2 (m1) |
2v (D1) |
g1 (d1) |
g2 (m1) |
-2 |
-2g2 (m1) |
2v (d1) |
2 |
g1 (D2) |
g2 (m2) |
1 |
g2 (m2) |