"РД 52.18.885-2019. Руководящий документ. Определение значений региональных фоновых концентраций органических загрязняющих веществ в почвах"
(введен в действие Приказом Росгидромета от 30.12.2019 N 844)

1 РАЗРАБОТАН Федеральным государственным бюджетным учреждением "Научно-производственное объединение "Тайфун" (ФГБУ "НПО "Тайфун")

2 РАЗРАБОТЧИКИ В.Е. Попов, канд. с.-х. наук; Н.Н. Лукьянова, канд. хим. наук; М.А. Запевалов, канд. хим. наук

3 СОГЛАСОВАН с Управлением мониторинга состояния и загрязнения окружающей среды (УМСЗ) Росгидромета 05.12.2019

4 УТВЕРЖДЕН Руководителем Росгидромета 06.12.2019

ВВЕДЕН В ДЕЙСТВИЕ приказом Росгидромета от 30.12.2019 N 844

5 ЗАРЕГИСТРИРОВАН головной организацией по стандартизации Росгидромета ФГБУ "НПО "Тайфун" 13.12.2019

ОБОЗНАЧЕНИЕ РУКОВОДЯЩЕГО ДОКУМЕНТА

РД 52.18.885-2019

6 ВВЕДЕН ВПЕРВЫЕ

7 СРОК ПЕРВОЙ ПРОВЕРКИ 2025 год

ПЕРИОДИЧНОСТЬ ПРОВЕРКИ 5 ЛЕТ

1.1 Настоящий руководящий документ устанавливает принципы и методы определения статистических характеристик региональной фоновой концентрации (далее - РФК) органического загрязняющего вещества (далее - ОЗВ): полиароматических углеводородов (далее - ПАУ), нефтяных углеводородов (далее - НУВ) и фенола в почвах региона <*>.

--------------------------------

<*> Помимо административной области или района предлагаемый алгоритм расчета РФК по согласованию с разработчиками руководящего документа может быть использован и для других территорий со строго очерченными границами.

1.2 Для получения достоверных статистических характеристик РФК ОЗВ настоящий руководящий документ дает указания по стратегии выбора фоновых пробных площадок, количеству отбираемых проб почвы, статистической обработке данных измерений.

1.3 Настоящий руководящий документ предназначен для организаций Росгидромета, в том числе оперативно-производственных подразделений, осуществляющих мониторинг почвенного покрова Российской Федерации.

В настоящем руководящем документе использованы ссылки на следующие нормативные документы:

ГОСТ 17.4.4.02-2017 Почвы. Методы отбора и подготовки проб для химического, бактериологического, гельминтологического анализа

ГОСТ Р ИСО 5479-2002 Статистические методы. Проверка отклонения распределения вероятностей от нормального распределения

ГОСТ Р 50779.29-2017 Статистические методы. Статистическое представление данных. Часть 6. Определение статистических толерантных интервалов

ГОСТ Р 50779.10-2000 (ИСО 3534-1-93) Статистические методы. Вероятность и основа статистики. Термины и определения

ISO 11259:1998 Качество почвы. Упрощенное описание почвы (ISO 11259:1998, IDT)

Примечание - При пользовании настоящим руководящим документом целесообразно проверять действие стандартов - в информационной системе общего пользования - на официальном сайте федерального органа исполнительной власти в сфере стандартизации в сети Интернет или по ежегодно издаваемому информационному указателю "Национальные стандарты", который опубликован по состоянию на 1 января текущего года, и по выпускам ежемесячно издаваемого информационного указателя "Национальные стандарты" за текущий год.

Если ссылочный документ заменен (изменен), то при пользовании настоящим руководящим документом следует руководствоваться замененным (измененным) нормативным документом. Если ссылочный нормативный документ отменен без замены, то положение, в котором дана ссылка на него, применяется в части, не затрагивающей эту ссылку.

В настоящем руководящем документе применены следующие термины с соответствующими определениями:

3.1 вклад диффузного источника: Вклад ОЗВ, выделяемого перемещающимися источниками, источниками с большой площадью или многочисленными источниками.

3.2 выборка: Часть генеральной совокупности элементов, отобранных для изучения, с целью получения информации о ней.

3.3 выброс: Концентрация химиката, которая является резко выделяющейся по величине по отношению к остальному массиву данных.

3.4 генеральная совокупность: Совокупность всех объектов (единиц), относительно которых предполагается делать выводы при изучении конкретной задачи.

3.5 доверительный интервал: Интервальная оценка параметра распределения с известной вероятностью включения в интервал значений.

Примечание - Например, оценка доверительного интервала 95% среднего значения совокупности представляет собой интервал, который будет содержать истинное значение среднего в 95% всех выборок, которые могут быть выбраны с заданной схемой выборки.

3.7 концептуальная модель: Описание ожидаемого источника поступления загрязняющих веществ и его влияния на окружающую среду, включая пространственную область воздействия, пути поступления, миграцию, трансформацию и сток.

3.8 органическое загрязняющее вещество; ОЗВ: Органическое вещество, которое при превышении некоторой пороговой концентрации (установленного для него норматива) может оказывать негативное воздействие на окружающую среду.

3.9 показатели РФК: Показатели статистически достоверных точечных и интервальных оценок РФК, рассчитанные на основе данных измерений содержания ОЗВ в пробах почвы фоновых территорий, отобранных случайным образом.

3.10 предел обнаружения: Минимальное содержание определяемого ОЗВ в пробе почвы, сигнал от которого можно надежно отличить от шумового сигнала прибора.

Примечание - Обычно предел обнаружения принимают равным утроенному значению стандартного отклонения шумового сигнала.

3.11 простая случайная выборка: Метод выборки, где образцы собираются в случайные моменты времени или местоположения в течение периода выборки или области исследования.

3.12 регион: Территория со строго очерченными границами (административная область или административный район).

3.13 региональная фоновая концентрация; РФК: Истинная средняя концентрация ОЗВ в почвах фоновой части территории региона.

3.14 систематический отбор: Метод определения местоположения выборок, в которых места расположения выборок расположены в узлах геометрической сетки (например, квадрат, прямоугольник, треугольник, шестиугольник).

3.15 случайная величина: Набор наблюдаемых значений переменной.

3.16 статистическая характеристика: Цифровой показатель, вычисленный из случайной величины выбранного параметра совокупности.

3.19 фоновая территория: Территория региона за исключением территории, подверженной непосредственному воздействию локальных источников ОЗВ, территорий транспортной инфраструктуры и промышленного зонирования.

3.20 экспертная оценка: Использование накопленных научно-технических знаний, опыта работы и знания современных научных исследований для оценки значений регионального фона.

В настоящем руководящем документе введены и применены следующие сокращения:

- ВДГ - верхняя доверительная граница среднего арифметического;

- ВДГ(М) - верхняя доверительная граница медианы;

- МКД - межквартильный диапазон (разница между 25 и 75 персентилями выборки);

- НУВ - общее содержание нефтяных углеводородов;

- ОДК - ориентировочная допустимая концентрация;

- ОЗВ - органическое загрязняющее вещество;

- ПАУ - полиароматические углеводороды;

- ПДК - предельно допустимая концентрация;

- РФК - региональная фоновая концентрация;

- BaPeq - бензапиреновый эквивалент;

- JB - статистический критерий Харке-Бера;

- SF - статистический критерий Шапиро-Франчия;

- SW - статистический критерий Шапиро-Уилкса;

- W/s - критерий отношения диапазона к стандартному отклонению.

5.1 Фоновое содержание ОЗВ в почве может быть обусловлено природными причинами (разложением растительных остатков и гумуса, синтезом микробной биомассы) и антропогенными причинами за счет диффузного загрязнения. Диффузное загрязнение почв возникает в результате рассеяния ОЗВ из крупных точечных источников (например, путем рассеяния переносимых воздухом на большие и малые расстояния выбросов промышленных предприятий и переноса загрязняющих отходов паводком), ОЗВ из менее мощных, но имеющих повсеместное распространение источников (транспортных средств, бытовых отопительных систем, малых предприятий по сжиганию отходов и т.д.), а также осуществления загрязняющих видов деятельности, связанных с землепользованием (например, в результате разноса загрязняющих отходов или операций опрыскивания в сельском хозяйстве). Содержание ОЗВ в почве можно разделить на природную и антропогенную фракции. Отношение этих фракций меняется в широких пределах в зависимости от типа органического вещества, типа почвы и типа землепользования, а также от вида и степени внешнего загрязнения. Содержание стойких ОЗВ, например ПАУ с пятью и более кольцами, в почве чаще всего обусловлено антропогенными источниками. Поэтому фоновое содержание таких ОЗВ в основном обусловлено типом и размером диффузного загрязнения из отдаленных источников.

5.2 Показатели РФК ОЗВ, рассчитанные в соответствии с настоящим РД, могут быть использованы для:

а) определения текущего содержания ОЗВ в почвах региона;

б) оценки динамики РФК ОЗВ с течением времени;

в) оценки степени загрязнения почвы по сравнению с предельно допустимыми концентрациями (ПДК), или ориентировочно допустимыми концентрациями (ОДК);

г) оценки степени загрязнения почв (кратности величины РФК) при отсутствии ПДК и ОДК;

д) расчета риска для человека, вызванного присутствием ОЗВ в почве;

е) идентификации участков территории с повышенным фоновым содержанием из-за особенностей почвенного покрова и рельефа местности;

ж) определения суммарного индекса загрязнения почвы.

5.3 Значения РФК представляют собой статистические характеристики математической обработки выборки из статистической совокупности (где выборка - это массив результатов измерений концентрации ОЗВ в пробах почвы (например, проб массой 1 кг), отобранных на фоновых пробных площадках в пределах территории данного региона, а генеральная совокупность - это масса всего верхнего слоя почвы изучаемого региона).

Математическая статистическая обработка проводится для:

а) отбора данных соответствующих фоновому содержанию в почве (то есть проверка на выпадающие значения (выбросы));

б) характеристики центральности данных и степени их разброса.

Набор статистических характеристик зависит от вида распределения полученных данных:

а) для нормального распределения данных:

1) среднее арифметическое РФК ;

2) стандартное отклонение s;

3) статистически обоснованная верхняя доверительная граница (ВДГ) среднего арифметического РФК . Значение РФК считается статистически обоснованным, если оно определено с доверительной вероятностью P = 0,95. В настоящем руководящем документе рассчитывается величина 95% ВДГ;

б) для логнормального распределения данных:

1) среднее арифметическое РФК ;

2) медианная концентрация РФК ;

3) логарифм среднего арифметического ;

4) логарифм стандартного отклонения Log(s);

5) верхняя доверительная граница средней величины РФК считается статистически обоснованной, если она определена с доверительной вероятностью P = 0,95. В настоящем руководящем документе рассчитывается величина 95% ВДГ;

в) для непараметрического распределения данных:

1) среднее арифметическое РФК ;

2) 25, 50 (медианная концентрация C_М), 75 и 95 персентили РФК;

3) статистически обоснованная верхняя доверительная граница медианы РФК . Значение верхней границы РФК считается статистически обоснованным, если оно определено с доверительной вероятностью P = 0,95. В настоящем руководящем документе рассчитывается величина 95% ВДГ медианы (95% ВДГ(М)).

5.4 Использование статистических характеристик РФК зависит от конкретной задачи (оценка динамики РФК, оценка загрязнения почвы в результате деятельности локального источника, конкретного ОЗВ).

5.5 Список ОЗВ, для которых требуется рассчитать показатели РФК, определяется организацией в каждом конкретном случае.

5.6 Для расчета используют массив данных химического анализа проб почвы, количество которых достаточно для вычисления статистически обоснованных характеристик РФК.

5.7 Отбор и анализ проб почвы на территории данного региона проводится в соответствии с ГОСТ 17.4.4.02.

5.8 Для контроля динамики диффузного загрязнения окружающей среды региона расчет параметров РФК должен проводиться периодически не реже одного раза в 5 лет.

5.9 Расчетные показатели РФК ОЗВ действительны в течение пяти лет со дня выдачи официального ответа на запрос, после чего подлежат пересмотру. В случае значительного изменения уровней загрязнения в результате ввода или реконструкции крупных предприятий, являющихся источниками диффузного загрязнения ОЗВ на территории региона, показатели РФК независимо от сроков их установления могут быть скорректированы по просьбе субъектов, действующих на территории региона.

Рассчитываемая средняя концентрация РФК (в статистических терминах среднее арифметическое статистической выборки) является только отражением средней величины реальной концентрации ОЗВ (в статистических терминах, генеральной совокупности). При повторном случайном отборе проб почвы эта средняя концентрация ОЗВ будет другой. Поэтому в настоящем руководящем документе за РФК принимают интервал, в который будет попадать средняя РФК при доверительной вероятности 95%. То есть при проведении на данной территории 100 обследований (экспедиций) 95% средних величин РФК будут находиться в некотором интервале от средней величины, рассчитываемой по результатам единственной экспедиции. Таким образом, РФК характеризуется интервалом от нижней границы 95% доверительного интервала среднего арифметического РФК до верхнего 95% доверительного интервала среднего арифметического РФК. Вместе с тем для принятия решений о кратности загрязнения почвы ОЗВ фоновому уровню наиболее часто используемым значением РФК будет являться величина среднего арифметического.

В некоторых случаях для расчета фоновой концентрации ОЗВ в незагрязненных почвах могут использоваться статистически достоверные корреляционные зависимости РФК от содержания органического углерода или содержания глинистых частиц в почве.

6.1 Оценку статистических характеристик РФК ОЗВ проводят по данным выборки. Основными статистическими характеристиками РФК являются математическое ожидание, медиана, среднее квадратическое отклонение или коэффициент вариации истинной средней концентрации ОЗВ в почве. Для оценки статистических характеристик РФК ОЗВ в настоящем руководящем документе используются графические методы и формальные статистические критерии. Графические методы позволяют просматривать данные и улучшить их понимание. Формальные статистические критерии обеспечивают статистическую достоверность оценочным показателям РФК ОЗВ.

6.2 Экспертная оценка является неотъемлемой частью методологии определения РФК ОЗВ. Экспертную оценку проводят при оценке полноты выборки, выборе соответствующего статистического критерия и формулировки заключений об уровне РФК на основе статистического анализа. Экспертная оценка должна быть обоснована, содержать ссылки на действующую нормативную документацию и сопровождаться вспомогательной информацией, на основе которой она была основана.

7.1 Определение РФК ОЗВ охватывает вопросы сбора предварительной информации о фоновых уровнях ОЗВ и вопросы экспериментального определения РФК. Экспериментальное определение РФК включает отбор проб почвы (стратегию и процедуру), химический анализ (предварительную обработку, извлечение и измерение), статистическую обработку и представление данных. Перед началом работ по определению РФК ОЗВ необходимо провести:

а) выбор анализируемых веществ и почвенных параметров (например, сумма ПАУ в почве, содержание бенз(а)пирена или индивидуального ПАУ, содержание в почве органического углерода и/или глинистых частиц);

б) описание территории исследования с четким обозначением ее границ;

в) определение отрезка времени, в течение которого отбирают образцы почвы и периода времени, в течение которого используют полученные показатели РФК.

7.2 РФК определяют для ОЗВ из перечня приоритетных загрязнителей, приведенных в приложении А. С практической точки зрения главный интерес представляют наиболее стойкие и малоподвижные соединения по причине их значительной сорбционной способности и накопления в почве, в то время как их испарение, биодеградация и миграция незначительны.

Кроме концентрации индивидуального загрязнителя для характеристики общего загрязнения ПАУ используют сумму ПАУ или оценку на основе бензапиренового эквивалента. Для такой оценки используют коэффициенты эквивалентной токсичности BaPeq для наиболее канцерогенных ПАУ, приведенные в приложении Б.

В отобранных пробах почвы также определяют почвенные параметры, наиболее важные с точки зрения миграции и трансформации этих ОЗВ:

а) тип почвы в соответствии с классификацией 1977 года [1];

б) pH солевая (1 н KCl);

в) содержание органического углерода;

г) гранулометрический состав.

7.2 РФК определяют для территории региона:

а) территории административной области;

б) территории административного района;

в) другой территории с заданными размерами (по согласованию с разработчиками настоящего руководящего документа).

Примечание - При использовании значений РФК ОЗВ включается название региона. Например, показатели РФК ОЗВ для Калужской области, показатели РФК ОЗВ для муниципального образования "город Обнинск" и т.п.

Обследуемая территория может быть очерчена в соответствии с двумя принципами:

а) географический принцип (на карте очерчивается контур территории обследования по координатам, в пределах которых она находится);

б) принцип стратификации (на карте очерчивается контур территории, и эта территория стратифицируется по типу почвы, типу землепользования или высоты над уровнем моря).

Фоновыми территориями считаются территории, которые могут быть загрязнены за счет диффузных источников загрязнения (глобальных и региональных), за исключением случаев очевидного воздействия локальных источников. Поэтому на карте региона выделяют территории потенциального локального загрязнения и далее эти территории не учитывают при разработке плана отбора проб почвы. При определении РФК не учитывают следующие территории:

а) территория, удаленная на 500 м в обе стороны от дорог с грунтовым или асфальтовым покрытием с числом полос движения не менее 2;

б) территория, эквивалентная трем размерам защитных санитарных зон;

в) при наличии на предприятии трубы, выбрасывающей загрязнители, территория на расстоянии радиусом 40 высот трубы от места расположения трубы;

г) в городах не рассматриваются территории, помеченные на карте границ территориальных зон города как территории, относящиеся к производственно-коммунальным зонам и зонам инженерной и транспортной инфраструктуры.

7.3 При определении времени отбора проб почвы для определения РФК ОЗВ учитывают период, в течение которого РФК может значительно измениться под воздействием человеческой деятельности. Интервал между определениями РФК должен быть основан на:

а) предполагаемой скорости обогащения почвы ОЗВ за счет диффузных источников;

б) предполагаемой скорости потери ОЗВ из почвы за счет вертикальной миграции, биодеградации, испарения и поглощения растениями;

в) величине ошибки определения концентрации ОЗВ при химическом анализе и допустимой статистической погрешности определения средней концентрации РФК.

7.4 Показатели РФК могут быть определены на основании:

а) оценки существующих данных (из различных литературных источников);

б) сбора новых данных на основании соответствующей стратегии экспериментального определения РФК.

8.1 При использовании существующих данных особое внимание необходимо обращать на качество и сравнимость данных, особенно если данные собраны из разных источников. Соответствующая стратегия гармонизации должна охватывать такие вопросы, как

а) проверка полноты набора данных на основании принимаемых минимальных требований;

б) оценка совместимости различных методов отбора проб почвы и методов химического анализа;

в) идентификация и удаление из набора данных, резко выделяющихся наблюдений (выбросов).

В отобранных данных должна содержаться информация:

а) о дате отбора пробы;

б) об использованном принципе выбора месторасположения пробной площадки (метод случайного отбора, метод отбора в узлах сетки и т.д.);

в) о месторасположении пробной площадки (координаты);

г) о глубине отбора пробы почвы;

д) о методе отбора проб почвы;

е) о пробной площадке (типе почвы, типе землепользования);

ж) о методике анализа.

Эта информация может быть использована для отбора литературных данных с точки зрения их пригодности для определения РФК ОЗВ.

8.2 В каждом индивидуальном случае должны оцениваться сопоставимость методик предварительной обработки проб почвы и аналитические методы (степень извлечения, точность измерений).

8.3 РФК в почвах включает некоторую концентрацию ОЗВ за счет диффузного загрязнения. При этом исключаются места, загрязнение которых обусловлено локальными источниками. Поэтому из литературного набора данных необходимо удалить данные, явно связанные с местами локального загрязнения. Для этого применяют как географические, так и статистические методы идентификации выбросов. Способы исключения выбросов приведены в подразделе 11.9.

9.1 Если в результате работы с литературными источниками для определения статистически достоверного уровня РФК ОЗВ данных не хватает, то необходимо проводить отбор проб почвы в фоновых районах данного региона. Содержание ОЗВ в почве состоит из природной компоненты и компоненты, обусловленной диффузным антропогенным загрязнением. Природное содержание ОЗВ во многом зависит от типа почвы, в том числе от содержания органического углерода и глинистых частиц. Тип землепользования и расстояние до источников загрязнения также влияют на фоновое содержание ОЗВ в почве. Отбор проб почвы для характеристики фона должен учитывать динамический характер загрязнения почвы ОЗВ.

Хорошо разработанный план отбора проб почвы играет критически важную роль при обеспечении необходимого количества данных для достоверного определения значений РФК. С помощью соответствующего плана решается вопрос о репрезентативности значений РФК ОЗВ (степени статистической достоверности, с которой значения характеризуют РФК и степень ее изменчивости). План по отбору проб почвы включает объяснение и обоснование числа отбираемых образцов, месторасположение пробных площадок и интервал времени, в течение которого эти пробы должны быть отобраны.

При определении РФК ОЗВ статистической совокупностью служат все единицы, из которых эта статистическая совокупность состоит. Например, площадь территории региона может быть отождествлена с множеством площадей, эквивалентных площади пробной площадки (пробная площадка рассматривается здесь как небольшой участок земли размером 10 x 10 м, с которого методом конверта отбирается смешанный образец почвы массой около 1 кг). Или масса верхнего слоя почвы региона может быть отождествлена с множеством образцов почвы массой 1 кг. Типы планов по отбору проб почвы, которые основаны на использовании статистических методов для последующего анализа результатов и обоснования значений РФК ОЗВ, представлены в 9.1.1 - 9.1.3.

9.1.1 Метод простого случайного отбора основан на теории случайной вероятности отбора единиц выборки (каждая точка отбора имеет равную вероятность выбора). Координаты для отбора образцов почвы выбираются случайным образом (например, с помощью генератора случайных чисел). Метод простого случайного отбора используется в случае более или менее одинакового уровня загрязнения почвы. Главными достоинствами использования этого метода являются:

а) статистически обоснованная оценка среднего арифметического и стандартного отклонения содержания ОЗВ в почве;

б) легкость для понимания;

в) простота оценки количества отбираемых проб почвы.

9.1.2 Систематический отбор проб почвы, также называемый методом отбора по сетке, состоит из отбора проб в узлах квадратной, треугольной или ромбической сетки. Систематический метод отбора проб почвы обеспечивает равномерный охват территории и прост в использовании. При этом важные характеристики определяемой совокупности не будут упущены. Кроме того, отбор образцов, взятый через регулярные интервалы, используют для оценки пространственных или временных корреляций значений РФК ОЗВ. При случайном систематическом отборе проб почвы начальные координаты сетки для отбора проб почвы выбирают случайным образом. Если отбор образцов почвы в данной точке невозможен из-за наличия зданий, водной поверхности или по другим причинам, с помощью систематического подхода может быть выбрана новая пробная площадка.

9.1.3 При стратифицированном случайном отборе образцов территорию региона разделяют на страты (участки), которые являются более однородными, чем исходная территория. Разделение территории региона на страты проводят в соответствии с типом почвы и/или типом землепользования. Для отбора проб почвы из каждой страты можно использовать простой или систематический методы случайного отбора образцов. Этот подход используют при оценке параметров РФК ОЗВ для территории региона со значительным количеством сильно отличающихся типов почвы или типов землепользования. При планировании отбора проб почвы собирают и оценивают информацию о типах почвы и типу землепользования. Рекомендуемые типы землепользования приведены в приложении В (раздел "Факторы почвообразования").

9.2 Достоверность статистических характеристик РФК ОЗВ зависит от количества отбираемых проб почвы. Чтобы определить минимальное число образцов почвы, необходимое для надежной оценки средней концентрации ОЗВ на территории региона, предварительно оценивают величину стандартного отклонения. При этом оценка стандартного отклонения не должна быть меньше истинного стандартного отклонения генеральной совокупности. Предварительная оценка стандартного отклонения РФК может быть основана на предварительном исследовании территории региона или на другом исследовании, проведенном на территории с характеристиками, аналогичными исследуемой территории. В отсутствие предварительной информации можно оценить стандартное отклонение путем деления ожидаемого диапазона изменения РФК ОЗВ на шесть, т.е.

Однако такая оценка является лишь грубым приближением и должна использоваться только при отсутствии других источников информации.

При определении количества отбираемых проб почвы, при которой погрешность средней концентрации не превышает заданной величины (например, если погрешность определения РФК не должна превышать 30%) используют предварительную информацию об ожидаемом типе статистического распределения РФК ОЗВ (нормальное, логнормальное или непараметрическое). Методы, которые могут быть использованы при планировании отбора проб почвы, приведены в 9.2.1 - 9.2.3. Количество отбираемых проб почвы для определения РФК ОЗВ не может быть меньше девяти (в том числе при стратифицированном отборе проб почвы количество отбираемых образцов не может быть меньше девяти на страту).

9.2.1 Если статистическое распределение РФК на территории изучаемого региона может быть охарактеризовано как нормальное, соответствующее количество образцов, необходимое для характеристики РФК, может быть рассчитано с помощью одного из следующих методов.

9.2.1.1 Если в результате исследования литературных источников были определены стандартное отклонение среднего s для числа образцов n, то общее количество отбираемых проб почвы n_tot при определении фона можно оценить с помощью отношения лямбда , которое учитывает максимальное допустимое отклонение от среднего и таблицы Г.1.

9.2.1.2 При нормальном распределении набора данных соответствующее количество отбираемых проб почвы можно также рассчитать, используя статистику Стьюдента (t-статистику), которая использует t-статистику на уровне значимости с n - 1 степенями свободы. Число отбираемых образцов почвы n_tot для числа степеней свободы литературных данных n - 1 и вычисляют в соответствии с приложением Д.

9.2.2 Для определения числа отбираемых образцов почвы при логнормальном распределении РФК используют метод Лэнда в соответствии с приложением Е.

9.2.3 Если распределение РФК нельзя описать нормальным или логнормальным распределением, то количество отбираемых образцов почвы для такого непараметрического распределения для того, чтобы с 95% вероятностью считать, что РФК находится в интервале, включающем 95% всех измерений, будет не менее 59 в соответствии с ГОСТ Р 50779.29-2017.

9.2.4 В соответствии с рекомендациями комитета по экологической политике Европейской экономической комиссии участки отбора проб почвы не могут находиться на территории площадью более 300 км² (то есть на территории квадрата со сторонами приблизительно 16 x 16 км) [2].

9.3 Интерпретация фоновых концентраций ОЗВ в почве требует общей информации о территории обследования. Наиболее важные параметры для описания почвы обследуемой территории приведены в приложении В [3].

9.4 Отбор проб почвы осуществляется в соответствии с ГОСТ 17.4.4.02. Пробы почвы отбирают с глубины от 0 до 5 см и от 5 до 20 см.

9.5 Если концентрация ОЗВ не меняется в течение года, то взятие проб почвы можно проводить в любое время года. Практические вопросы отбора проб рассматриваются перед определением периода времени для отбора образцов почвы. Например, во влажный сезон трудно отбирать образцы почвы из-за близкого уровня залегания грунтовых вод. И, наоборот, во время засухи почва становится твердой. Доступ к некоторым участками может быть затруднен из-за растущих сельскохозяйственных культур. В этом случае рекомендуется отбирать пробы вскоре после уборки урожая или сразу после посева.

9.6 Отобранные пробы почвы могут храниться в течение нескольких лет после их отбора для определения концентраций других ОЗВ, которые могут представлять интерес в будущем. Высушенные образцы почвы должны храниться в герметичных контейнерах. Контейнеры должны храниться в комнате с низкой влажностью воздуха, которая защищена от пыли, света и значительных изменений температуры.

10.1 В отобранных образцах почвы измеряют два набора параметров. Первым параметром является концентрация ОЗВ. Вторым параметром является основное почвенное свойство (содержание органического вещества и/или содержание глины). Эти параметры необходимы для оценки статистических характеристик РФК и для расчета с помощью корреляционных зависимостей фонового содержания ОЗВ, если для данной пробной площадки известна величина только основного почвенного свойства.

10.2 Химический анализ ОЗВ выполняют в соответствии с аттестованными методиками измерений. Основным требованием к анализу ОЗВ является достаточно низкий предел обнаружения для того, чтобы количество измерений ниже предела обнаружения было минимальным. Во время анализа проводят процедуры контроля качества анализа.

11.1 Анализ конкретных данных начинают с получения "статистического портрета", т.е. с оценивания основных характеристик распределения содержания ОЗВ в почвах региона. Многие статистические методы основаны на допущении о нормальности такого распределения. Для оценки типа статистического распределения аналитических результатов, которые при условии случайности отбора проб почвы являются статистической выборкой из генеральной совокупности, используются следующее методы:

а) графические методы;

б) формальные статистические критерии.

При стратифицированном отборе при определении типа статистического распределения для каждой страты используют выборку, состоящую как минимум из девяти измерений. Окончательный выбор вида статистического распределения делают на основе одновременной оценки результатов, полученных перечисленными ниже методами:

а) вероятностные графики (графический метод);

б) ящичные графики (графический метод);

в) критерий отношения диапазона данных к величине стандартного отклонения (формальный критерий);

г) критерий Шапиро-Уилкса для выборки с числом данных n <= 50 (формальный критерий);

д) критерий Шапиро-Франчия для выборки с числом данных n > 50 (формальный критерий);

е) критерий Харке-Бера для выборки с числом данных n > 1000 (формальный критерий);

ж) критерий Д'Агостино для выборки с числом данных n > 50 (формальный критерий).

Ввиду того, что практически у каждого формального критерия имеются ограничения при определении типа статистического распределения, при статистическом анализе выборки необходима предварительная проверка исходных данных экспертом. Например, тест Шапиро-Уилкса не эффективен, когда несколько величин в наборе данных одинаковы. Лучше всего он работает для выборки с количеством данных менее 50, но в модификации Шапиро-Франчия может быть использован и для большего числа измерений. Его также нельзя использовать, если в выборке имеются измерения ниже предела обнаружения. Критерий Харке-Бера учитывает асимметрию и эксцесс распределения. Кроме асимметрии и эксцесса критерий Д'Агостино учитывает также и центральность распределения. Однако он не может быть использован для данных с числом измерений менее 50 и более 1000.

11.2 Вероятностный график используют для первоначальной оценки формы распределения данных выборки. Такой график позволяет осуществить визуальный осмотр данных и дать предварительную оценку соответствия нормальному статистическому распределению вероятности. Также с помощью этих графиков можно идентифицировать отклонение данных от нормального распределения. Вероятностные графики строят путем построения зависимости концентраций, упорядоченных в порядке возрастания вдоль оси "y", от соответствующих квантилей стандартного нормального распределения или "величин z" (то есть нормального распределения со средним значением, равным нулю, и стандартным отклонением, равным единице). Если данные выборки подчиняются нормальному распределению, то построенные точки данных лежат вблизи прямой линии. Если данные не являются нормальными, на графике видны перегибы прямой линии или линия искривляется. Кроме того, на полученном графике можно визуально обнаружить данные с необычно высокими значениями (выбросы).

Вероятностные графики могут использовать также для оценки выборки на логнормальность распределения путем построения графика вероятности с использованием преобразования аналитических результатов в натуральные логарифмы вместо исходных (нетрансформированных) результатов аналитических измерений. Для определения наиболее подходящего распределения рекомендуется строить вероятностные графики как для исходных (нетрансформированных), так и для логарифмически преобразованных данных.

Ввиду субъективности интерпретации вероятностных графиков не следует делать выводы относительно статистических распределений, основываясь только на вероятностных графиках. Вероятностные графики следует использовать в сочетании с другими описанными в этом разделе методами. Способ построения вероятностных графиков и примеры их использования приведены в приложении Ж.

11.3 Другим способом визуального представления данных выборки являются ящичные графики с усами. На рисунке 1 представлен ящичный график, построенный на основании исходных данных концентраций , приведенных в таблице Ж.2. Верхняя и нижняя сторона ящика, соответственно, представляют собой 25 и 75 персентили выборки. Разницу между ними обозначают как межквартильный диапазон (МКД). Горизонтальная линия посередине ящика представляет медиану (50 персентиль). Крест в середине ящика обозначает величину среднего арифметического концентрации. Вертикальные линии, проходящие от концов коробки (усы), рисуют на величину некоторого интервала от 25 персентили вниз и на величину интервала от 75 персентили вверх. Этот интервал обычно равен 1,5*МКД. Этот размер уса полезен тем, что внешние значения, показанные звездочками за пределами верхнего значения уса, являются потенциальными выбросами. Для их идентификации применяют формальные критерии для выбросов. Ящичные графики с усами наиболее полезны при сравнении двух и более наборов данных. Ввиду субъективности интерпретации не следует делать выводы относительно статистических распределений, основываясь только на ящичных графиках. Эти графики используют только в сочетании с другими методами определения формы статистического распределения выборки, а не в качестве единственного определяющего фактора.

11.4 Для проверки нормальности распределения данных выборки можно использовать формальный критерий отношения величины диапазона массива данных измерений концентрации ОЗВ в почве W и величины стандартного отклонения s. Этот критерий проверяет степень эксцесса распределения выборки. Данный критерий используют только для предварительной оценки нормальности типа распределения выборки. При проверке с помощью критерия W/s используют критический диапазон. Если вычисленная величина попадает внутрь диапазона, тогда данные считают распределенными нормально. Методика и пример использования этого критерия приведены в приложении И. Критические уровни критерии W/s для уровня значимости 0,05 и 0,10 приведены в таблице И.1.

11.5 При количестве данных в наборе до 50 (n <= 50) рекомендуется использовать в качестве формального критерия проверки нормальности распределения данных критерий Шапиро-Уилкса [4]. Этот критерий нужно применять как для исходных данных, так и для логарифмов данных.

Для применения критерия Шапиро-Уилкса для проверки на логнормальность распределения выборки сначала данные необходимо логарифмировать в соответствии с уравнением y = ln(x). Эти трансформированные данные используют вместо величин нетрансформированных данных x. Данные измерений ниже предела обнаружения (если в массиве данных их было не более 50%) заменяют на половину величины предела обнаружения. Критерий Шапиро-Уилкса применяют к выборке в соответствии с приложением К.

Если результаты свидетельствуют о том, что исходные данные и логарифмы данных соответствуют критерию Шапиро-Уилкса, то при окончательном решении того, к какому типу распределения принадлежит массив данных, руководствуются более высоким значением критерия Шапиро-Уилкса.

11.6 При количестве данных в массиве более 50 (n > 50) для проверки нормальности распределения в качестве формального критерия используют критерий Шапиро-Франчия [5]. Проверку проводят как для исходных данных, так и для натуральных логарифмов данных. Результаты проверки с помощью критерия Шапиро-Франчия подтверждают с помощью анализа вероятностных графиков или ящичных графиков с усами. Причиной отклонения от нормального или логнормального распределения может служить асимметрия данных или наличие большого хвоста (или и то, и другое). Анализ данных с помощью ящичного графика с усами, и в особенности вероятностного графика, может дать представление о том, почему проверка с помощью критерия Шапиро-Франчия не была успешной. Причиной этого может быть наличие в выборке выброса. После удаления выброса из выборки снова применяют критерий Шапиро-Франчия к выборке. Критерий Шапиро-Франчия применяют к выборке в соответствии с приложением Л.

Если результаты статистической проверки свидетельствуют о том, что данные проходят оба типа проверки, то для того чтобы сделать выводы о распределении данных, необходимо учитывать результаты проверки с более высоким значением критерия Шапиро-Франчия.

11.7 При количестве данных в выборке более 1000 проверку нормальности распределения проводят с помощью критерия Харке-Бера. Проверка данных с помощью этого критерия является проверкой того, имеют ли данные выборки асимметрию и эксцесс, соответствующие нормальному распределению. В соответствии с этим критерием сначала вычисляют коэффициент асимметрии и коэффициент эксцесса и рассчитывают критерий Харке-Бера. Затем определяют табличное значение критерия на основе критических значений Пирсона в соответствии с таблицей М.1. Для уровня значимости 0,05 критическая величина Пирсона равна 5,991. Если величина критерия Харке-Бера больше 5,991, то распределение не является нормальным. Если величина критерия Харке-Бера меньше 5,991, то распределение является нормальным.

11.8 При количестве данных в выборке более 50 проверку нормальности распределения можно проводить с помощью критерия Д'Агостино. Этот критерий основан на D-статистике, который определяет постоянное отношение оценки популяции Даунтона к стандартному отношению выборки. Критерий учитывает отклонения от нормальности для эксцесса и асимметрии. Порядок расчета по этому критерию приведен в приложении Н.

11.9 Применение статистических критериев для оценки выбросов является частью процесса первоначальной проверки исходных данных выборки и, таким образом, корректной оценки параметров генеральной совокупности. Выбросы данных могут быть в результате следующих причин:

а) данные могут быть неправильными в результате неправильного отбора образцов, ошибок при лабораторном анализе и вводе данных;

б) резко выделяющимся может быть правильный результат, принадлежащий другой генеральной совокупности (например, загрязненной территории, а не фоновой);

в) резко выделяющейся может быть реально существующая в природе концентрация (представляющая реальную генеральную совокупность фоновой территории).

Статистические методы для выявления выбросов представлены в разделах 11.9.2 - 11.9.5. Однако отнесение измерения к выбросу не означает его автоматического удаления из массива данных.

Формальную проверку на наличие выбросов проводят только в случае подозрений о наличии одного или нескольких выбросов. Основаниями для такого подозрения является высокое значение коэффициента вариации или существенное отличие от нуля коэффициента асимметрии. Особенно если такие результаты получаются не только при использовании исходных данных, но и логарифмов данных. Кроме того, потенциальные выбросы можно легко идентифицировать на графиках (таких как вероятностные графики и ящичные графики с усами). Методы проверки данных на выбросы приведены ниже:

а) вероятностный график;

б) ящичный график;

в) критерий Граббса для одного выброса;

г) критерий Диксона для нескольких выбросов для выборки с числом данных n <= 25;

д) критерий Рознера для нескольких выбросов для выборки с числом данных n > 25.

Если с помощью анализа исходных табличных данных или с помощью использования графических методов появилось подозрение на наличие потенциального выброса, то это наблюдение проверяют с помощью одного из трех формальных критериев. Как правило, для выборок с 50% или более значениями ниже предела обнаружения статистическое распределение данных определить невозможно. Поэтому в этом случае с помощью приведенных выше графических методов выбросы идентифицируют только качественно.

11.9.1 Вероятностные графики используют не только для графической оценки типа распределения данных, но и для выявления потенциальных выбросов. На вероятностном графике потенциальные выбросы будут отображаться как изолированные точки вдали от основной массы точек. Основная масса точек может, например, формировать линию, при этом потенциальные выбросы будут располагаться на некотором расстоянии от этой линии.

На ящичном графике потенциальные точки выбросов представляют точками выше верхней границы усов или ниже нижней границы усов. Однако для классификации измерения как выброс необходимо проверять их с помощью формальных критериев. Кроме того, некоторые формальные критерии для выбросов, представленные в этом разделе (например, критерий Рознера), требуют первоначальной оценки количества выбросов в выборке. Для выбора этого количества также используют вероятностные или ящичные графики.

11.9.2 Для идентификации одиночных выбросов в большинстве массивов данных с числом измерений от 3 до 100 используют критерий Граббса [6]. Применение этого критерия основано на предположении о нормальности распределения выборки, поэтому сначала оценивают форму статистического распределения выборки. Если данные распределены логнормально, то необходимо выполнить логарифмическое преобразование данных и проверить эти преобразованные данные с помощью критерия Граббса. При наличии нескольких потенциальных выбросов необходимо использовать другие критерии (например, критерий Диксона или критерий Рознера). Если в массиве данных количество измерений ниже предела обнаружения не более 50%, то для проверки на выбросы измерения ниже предела обнаружения заменяют на половину величины предела обнаружения. Чтобы проверить данные на выбросы, когда распределение выборки является логарифмически нормальным, сначала рассчитывают y = ln(x) и используют значения y (логарифмически трансформированные данные) вместо значений x. Расчеты по этой методике проводят в соответствии с приложением П.

11.9.3 Критерий Диксона используют для определения выбросов в выборке с количеством измерений не менее 25 [7]. Критерий Диксона основан на предположении о нормальности распределения данных измерений. Поэтому сначала определяют вид статистического распределения. Если данные распределены нормально, то наличие выброса определяют с помощью критерия Диксона. Если в массиве данных количество измерений ниже предела обнаружения не более 50%, то для нормальной формы распределения этот критерий применяют к исходным (нетрансформированным) данным, заменив измерения ниже предела обнаружения на половину величины предела обнаружения. Чтобы проверить данные на выбросы, когда распределение выборки является логарифмически нормальным, сначала рассчитывают величину y = ln(x) и используют значения y (логарифмически трансформированные данные) вместо значений x.

Критерий Диксона используют также для проверки наличия в выборке нескольких потенциальных выбросов. Сначала оценивают наименьшее из потенциальных экстремальных измерений (исключая временно более экстремальные наблюдения из набора данных). Если наименьшее из экстремальных наблюдений идентифицируют как выброс, тогда измерения с большими концентрациями также классифицируют как выбросы. Если потенциальный выброс с самой маленькой концентрацией не классифицируют как таковой, то с помощью этой же процедуры проверяют потенциальный выброс с большей концентрацией. Методика и пример расчетов приведены в приложении Р.

11.9.4 Критерий Рознера применяют для набора данных с числом измерений n > 25, и имеются свидетельства наличия более одного потенциального выброса [8]. С помощью критерия Рознера можно проверить данные как на наличие выбросов с высокими, так и низкими концентрациями. Потенциальные выбросы проверяют группами. Применение критерия Рознера предполагает, что выборка имеет нормальное распределение. Если данные распределены логарифмически, необходимо выполнить логарифмическое преобразование данных и применить критерий Рознера к этим преобразованным данным. Перед проверкой с помощью критерия Рознера необходимо определить общее количество потенциальных выбросов (k). Для предварительной оценки потенциальных выбросов необходимо использовать вероятностные графики, графики ящиков с усами или визуальный осмотр табличных данных.

Процедура применения критерия Рознера основана на процессе итерации. Сначала для всего набора данных вычисляют среднее арифметическое, стандартное отклонение и максимальные значения потенциальных выбросов. Потенциальные выбросы исключают по одному от самого большого до самого маленького. Затем вычисляют первую статистику критерия для проверки того, все ли значения потенциальных выбросов k являются выбросами. Если результат статистически значим, то все k наблюдений классифицируют как выбросы. Если этот результат статистически не значим, то группу возможных выбросов уменьшают на единицу (т.е. наименьший потенциальный выброс возвращают обратно в выборку), и статистику критерия пересчитывают с учетом остальных k - 1 возможных выбросов. Этот процесс повторяют до тех пор, пока не будут определены все выбросы или пока в выборке выбросов не останется.

При нормальном распределении для проверки выбросов используют исходные (нетрансформированные) данные, при этом при наличии до 50% измерений ниже предела обнаружения их заменяют на величину половины предела обнаружения. Для проверки выбросов при логнормальном распределении сначала вычисляют y = ln(x) и эти значения y используют вместо значений x. Расчеты по этой методике проводят в соответствии с приложением С.

11.9.5 В том случае, если распределение данных не подчиняется нормальному или логнормальному распределению, то для выборок с числом данных более 60 для идентификации потенциальных выбросов применяют критерий Уолша в соответствии с приложением Т.

11.9.6 До принятия окончательного решения об использовании идентифицированных с помощью формальных критериев потенциальных выбросов еще раз пересматривают все записи, сделанные как на этапе отбора проб почвы, так и на этапе химического анализа. После исследования всей информации возможны следующие действия.

Если обнаружена ошибка при записи пробы, то резко выделяющееся измерение заменяют на правильное. После этого статистическую обработку данных выборки повторяют.

Если может быть доказано, что измерение является ошибочным, то это резко выделяющееся измерение удаляют. Последующий статистический анализ проводят с сокращенным набором данных. Если измерение не является ошибочным, то выброс следует рассматривать как истинное чрезвычайно высокое измерение. Если это так, следует принять одно из следующих действий в зависимости от расположения пробной площадки, на которой был идентифицирован выброс:

1) если есть основания полагать, что отобранный образец не является фоновым, то это значение из набора данных удаляют;

2) если значение является репрезентативным для фоновых условий, то это значение в наборе данных сохраняют.

11.10 Одной из статистических характеристик РФК является среднее арифметическое содержания ОЗВ в почве. Среднее арифметическое, являющееся параметром центральности, представляет собой усредненное значение всего массива данных. Другие параметры центральности включают медиану (то есть срединное значение) и моду (то есть наиболее часто встречающееся значение). С точки зрения воздействия на человека среднее арифметическое значение обеспечивает наилучшее представление средних уровней воздействия на данной территории, поскольку оно включает величину всех измерений. Из-за неопределенности в оценке истинной средней арифметической концентрации ОЗВ в почве на данной территории (поскольку такая оценка основана на статистической обработке выборки отобранной случайным образом) часто используют ВДГ арифметического среднего всех измерений. Для представления диапазона неопределенности используют доверительные интервалы вокруг среднего арифметического. При расчете ВДГ для среднего используют уровень значимости , которую обозначают как 95% ВДГ. В зависимости от вида распределения данных для расчета 95% ВДГ используют следующие методы:

а) для данных, имеющих нормальное распределение, используют t-метод Стьюдента;

б) для данных, имеющих логнормальное распределение, используют метод Лэнда;

в) для наборов данных, не имеющих нормального или логнормального распределения, используют метод для непараметрического распределения.

Процедура выбора подходящего метода для вычисления 95% ВДГ для среднего приведена ниже:

а) сначала рассчитывают процент данных измерений ниже предела обнаружения (например, набор с девятью данными, три из которых ниже предела обнаружения, содержит 33% значений ниже предела обнаружения);

б) для массивов данных с количеством измерений ниже предела обнаружения < 50% определяют форму статистического распределения данных. Этот этап не требуется для выборок с количеством измерений ниже предела обнаружения более 50%;

в) все наборы данных проверяют на наличие выбросов; формальную проверку на выбросы проводят только в том случае, если первоначальная оценка данных (то есть обзор табличных данных и/или графиков) указывает на наличие одного или нескольких потенциальных выбросов;

г) для наборов данных с количеством измерений ниже предела обнаружения < 50% и имеющих нормальное распределение для расчета величины 95% ВДГ для среднего используют метод, приведенный в 11.10.1;

д) для наборов данных с количеством измерений ниже предела обнаружения < 50% и имеющих логнормальное распределение для расчета величины 95% ВДГ для среднего используют метод Лэнда, приведенный в 11.10.2.

11.10.1 При нормальном распределении выборки 95% ВДГ для среднего может быть рассчитана на основе t-распределения Стьюдента. Сначала оценивают статистическое распределение данных с использованием формальных критериев и проводят проверку на наличие выбросов. Верхнюю доверительную границу среднего часто используют для сравнения среднего арифметического РФК с экологическими или санитарно-гигиеническими нормативами. Если критерий 95% ВДГ больше норматива, то делают вывод о том, что среднее арифметическое РФК выше данного норматива. Если 95% ВДГ меньше норматива, то делают заключение, что среднее арифметическое РФК ниже данного норматива. Расчеты проводят в соответствии с приложением У, в котором приведен также пример расчетов.

11.10.2 Для данных, имеющих логнормальное распределение, для вычисления 95% ВДГ используют метод Лэнда в соответствии с приложением Ф. Если полученный 95% ВДГ больше норматива, то делают вывод о том, что средняя РФК выше данного норматива. Если 95% ВДГ меньше норматива, то делают вывод о том, что средняя РФК ниже данного норматива.

11.10.3 Метод t-распределения и метод Лэнда основываются, соответственно, на предположениях о нормальности и логнормальности распределения выборки. Для выборок, которые не являются ни нормальными, ни логнормальными, используют метод расчета в соответствии с приложением Х. При этом ВДГ определяют не для среднего арифметического, а для медианы.

После расчета значений РФК проводят проверку на близость рассчитанных значений РФК типичным значениям РФК для аналогичной климатической зоны. Пределы варьирования фона для Центрального района Российской Федерации приведены в таблице 1.

13.1 Знание корреляционных зависимостей значений РФК от ключевых почвенных параметров (содержания органического вещества или содержания глинистых частиц) позволяет сделать оценку РФК ОЗВ для некоторой точки территории без непосредственного измерения концентрации ОЗВ. Если средняя ошибка аппроксимации парной регрессии РФК ОЗВ в почве от почвенного параметра меньше 15%, то следует вычислить пределы изменения почвенного параметра, при котором ошибка прогноза концентрации показателя РФК не будет превышать 30%.

13.2 Для n пар экспериментально определенной в почве концентрации ОЗВ y_xi и экспериментально определенного содержания ключевого почвенного параметра x_i строят линейную регрессию вида

где Y_xp - расчетная концентрация ОЗВ в почве;

x_p - задаваемая величина ключевого почвенного параметра.

Для каждого экспериментально определенного значения почвенного параметра x_i (i изменяется от 1 до n) с помощью уравнения (1) рассчитывают величину Y_xi. Среднюю ошибку аппроксимации рассчитывают по уравнению

Если средняя ошибка аппроксимации меньше 15%, то строят график зависимости ошибки прогноза РФК от величины ключевого почвенного параметра. Величину ошибки прогноза РФК D от содержания в почве ключевого почвенного параметра x_p рассчитывают по уравнению (3):

где

и

где n - количество проанализированных образцов;

- коэффициент Стьюдента для n образцов и уровня значимости ;

S_res - величина остаточной дисперсии;

- величина среднего арифметического значений x_i.

13.3 На рисунке 2 показана зависимость величины ошибки прогноза РФК ОЗВ от содержания физической глины в почвах. Для этой зависимости было получено уравнение линейной регрессии Y(x) = 31,395 + 2,3815(x), R² = 0,7604. При такой корреляции ошибка прогноза при уровне значимости 0,05 не будет превышать 30% для содержания глины в почве выше 5%. Таким образом, выходными параметрами для регрессионного уравнения, используемого для прогноза зависимости РФК от ключевого почвенного параметра, являются:

а) величина средней ошибки аппроксимации ;

б) коэффициенты регрессионного уравнения (1) a и b;

в) интервал изменения ключевого параметра, для которого величина точечной ошибки прогноза не превышает 30% (для графика, приведенного на рисунке 2, содержание физической глины, при котором ошибка прогноза не превышает 30%, составляет интервал от 5 до 20%).

С помощью отношения лямбда оценивают общее количество отбираемых проб почвы n_tot, когда по литературным источникам было рассчитано стандартное отклонение среднего s для числа образцов n (таблица Г.1). Поэтапный метод расчета числа n_tot приведен ниже:

а) используя n данных из литературных источников вычисляется величина :

где - средняя концентрация ОЗВ;

C_m - максимальная допустимая величина отклонения от среднего арифметического.

Следует отметить, что меньшее значение означает, что для поддержания определенного доверительного уровня требуется отобрать большее количество образцов;

б) в таблице Г.1 приведена зависимость числа отбираемых образцов n_tot для рассчитанных значений при и статистической мощности .

При нормальном распределении набора данных соответствующее количество отбираемых проб почвы рассчитывают, используя статистику Стьюдента (t-статистику). Эта формула использует t-статистику на уровне значимости с n - 1 степенями свободы:

где ;

- средняя концентрация ОЗВ;

C_m - максимальная допустимая величина отклонения от среднего арифметического;

s - стандартное отклонение набора данных;

- соответствующая t-статистика для степени свободы n - 1 и уровня значимости .

Число отбираемых образцов почвы n_tot для числа степеней свободы литературных данных n - 1 и уровня значимости от 0,001 до 0,3 приведены в таблице Д.1.

Для расчета числа независимых наблюдений, n_tot, необходимых для оценки статистически достоверной величины медианы логнормального распределения, используется уравнение (Е.1)

где

и

где d - ожидаемая допустимая ошибка в оценке медианы. Следует отметить, что относительный коэффициент ошибок должен быть указан в исходной нетрансформированной шкале (ошибка среднего (%)/100);

- стандартное нормальное интегральное распределение;

- процент доверия, при котором ошибка медианы не превышает d;

- среднее арифметическое n трансформированных величин y_i = lnx_i;

- дисперсия n трансформированных величин y_i = lnx_i;

n - количество литературных данных, на основе которых рассчитывались и ;

N - количество данных в генеральной совокупности.

Для проверки формы распределения концентраций ОЗВ выборки на нормальность с помощью вероятностного графика необходимо использовать исходные данные. А для проверки логнормальности сначала необходимо преобразовать исходные данные в соответствии с выражением y = ln(x), и в дальнейшем использовать эти трансформированные значения y вместо исходных значений x. Если в выборке есть измерения ниже предела обнаружения, то их необходимо заменить числом, равным половине предела обнаружения. Порядок построения вероятностного графика по [10] следующий:

а) расположите исходные данные по порядку от самого маленького значения к самому большому (x_i, i = 1, ..., n);

б) вычислите кумулятивную вероятность p_i, соответствующую каждой величине x_i, с помощью уравнения (Ж.1)

где n - это число образцов проб почвы;

i - это ранг упорядоченного массива данных;

в) определите квантиль стандартного нормального распределения соответствующую кумулятивной вероятности в соответствии с уравнением (Ж.2).

где Ф^-1 означает обратную величину кумулятивного нормального распределения.

Затем постройте зависимость z_i от x_i. Если набор данных приблизительно соответствует нормальному распределению, то нанесенные точки будут располагаться вдоль воображаемой прямой линии. Кривые линии или линии с изгибом указывают на то, что данные распределены не нормально или выборка отобрана на территории, представляющей две совокупности, например природную компоненту и компоненту значительного локального загрязнения. Логнормальность набора данных может быть оценена путем построения логарифмически преобразованных значений y вместо исходных значений x. Если выборка распределена приблизительно логарифмически нормально, а вероятностный график построен с использованием данных, преобразованных в логарифмы, то нанесенные точки должны находиться на прямой линии или располагаться вблизи нее.

Для проверки статистического критерия q необходимо знание только величины диапазона данных измерений РФК ОЗВ в почвах W и величины стандартного отклонения s. Этот критерий проверяет степень эксцесса распределения выборки. Статистика критерия q вычисляется в соответствии с уравнением (И.1)

При проверке с помощью критерия W/s используется критический диапазон. Если вычисленная величина попадает внутрь диапазона, тогда данные считаются распределенными нормально. Критические уровни критерия W/s для уровня значимости 0,05 и 0,10 приведены в таблице И.1.

Для применения критерия Шапиро-Уилкса для проверки на нормальность распределения данных используют исходные нетрансформированные данные. Для проверки на логнормальность распределения выборки с помощью этого критерия сначала данные логарифмируют в соответствии с уравнением y = ln(x). Эти трансформированные данные используют вместо величин нетрансформированных данных x. Данные измерений ниже предела обнаружения (если в массиве данных их было не более 50%) заменяют на половину величины предела обнаружения. Критерий Шапиро-Уилкса (SW) к выборке применяют следующим образом:

а) данные рассортировывают в порядке возрастания от самого маленького к самому большому значению, где x(1) - самая маленькая величина, x(2) - большая величина и x(n) - самая большая величина;

б) принимают, что величина k равна самому большому целому числу, меньшему или равному (n/2) для четного числа n и (n - 1)/2 для нечетного числа n, где n обозначает количество данных;

в) для каждого i = 1, 2, ..., k вычисляют разницу [x(n - i + 1) - x(i)];

г) с помощью таблицы К.1 находят коэффициент a_i для i = 1, 2, ..., k;

д) величину b вычисляют в соответствии с выражением (К.1):

е) для выборки вычисляют стандартное отклонение s;

ж) затем, согласно уравнению (К.2), вычисляют статистику критерия Шапиро-Уилкса

и) для выборки с количеством образцов n и уровнем значимости 0,05 с помощью таблицы К.2 вычисляют критическую величину критерия Шапиро-Уилкса и сравнивают эту величину с вычисленным критерием SW;

к) если величина SW больше или равна , то делают заключение о том, что выборка имеет нормальное или логнормальное (если использовались величины y) распределение;

л) если величина SW меньше , то делают заключение о том, что распределение данных выборки не является нормальным или логнормальным (если использовались величины y).

Пример - Предположим, что для некоторой территории в 20 образцах были измерены фоновые концентрации ОЗВ. В порядке возрастания исходные данные, мг/кг, равны: 1 - 1,0; 2 - 3,1; 3 - 8,7; 4 - 10; 5 - 14; 6 - 19; 7 - 21,4; 8 - 27; 9 - 39; 10 - 56; 11 - 58,8; 12 - 64,4; 13 - 81,5; 14 - 85,6; 15 - 151; 16 - 262; 17 - 331; 18 - 578; 19 - 637; 20 - 942. В соответствии с пунктом 2 величина n = 20, а величина k = 10. Для каждой величины i = 1, 2, ..., k с помощью таблицы К.1 находят коэффициент a_i. Затем с помощью уравнения И.1 рассчитывают величину b_i. Для положительных величин разницы [x(n - i + 1) - x(i)] рассчитывают величину b. Для этого примера b составила величину 932,88. Стандартное отклонение для этого массива измерений составило 259,7 мг/кг. С помощью уравнения (К.2) для уровня значимости 0,05 вычисляют величину критерия Шапиро-Уилкса SW = 0,679. С помощью таблицы К.2 находят критическую величину критерия Шапиро-Уилкса (SW_0,05). Эта величина для 20 образцов равна 0,905. Поскольку вычисленная величина SW < SW_0,05 (0,679 < 0,905), делают заключение, что исходные данные не имеют нормального распределения. Однако если провести аналогичные вычисления, используя натуральные логарифмы исходных данных, то вычисленная величина SW > SW_0,05 (0,980 > 0,905), и можно сделать заключение, что логтрансформированные данные имеют нормальное распределение.

При количестве данных в массиве более 50 (n > 50) для проверки нормальности распределения в качестве формального критерия используют критерий Шапиро-Франчия. Для того чтобы применить этот критерий к проверке выборки на логнормальность, сначала вычисляют y = ln(x) и используют эти трансформированные данные вместо величин x. Данные измерений ниже предела обнаружения (если в массиве данных их было не более 50%) заменяют на половину величины предела обнаружения. Для определения того, какое из двух типов распределения данных лучше описывает данную выборку, следует сравнить результаты применения критерия к исходным и логарифмированным данным:

а) данные рассортировывают в порядке возрастания от самого маленького к самому большому значению, где x(1) - самая маленькая величина, x(2) - большая величина и x(n) - самая большая величина;

б) затем вычисляют величину стандартного отклонения для массива данных и возводят ее в квадрат (s²);

в) затем вычисляют m_i или i-ую нормальную квантиль (величина z) в соответствии с выражением (Л.1):

где Ф^-1 означает обратную величину кумулятивного стандартного нормального распределения;

г) величину критерия Шапиро-Франчия (SF) вычисляют в соответствии с уравнением (Л.2):

д) с помощью таблицы Л.1 на основании числа наблюдений n, принимая доверительный уровень , равный 0,05, определяют критическую величину критерия Шапиро-Франчия и сравнивают с расчетной величиной SF;

е) если , делают заключение о том, что массив данных распределен нормально (или логнормально, если используют величины y);

ж) если , делают заключение о том, что массив данных не распределен нормально (или логнормально, если используют величины y).

Если результаты статистической проверки свидетельствуют о том, что данные проходят оба типа проверки, то для того, чтобы сделать выводы о распределении данных, необходимо учитывать результаты проверки с более высоким значением SF.

С помощью критерия Харке-Бера проверяют соответствие асимметрии и эксцесса выборки нормальному распределению:

а) сначала выдвигают гипотезу H_o о нормальном распределении выборки;

б) затем вычисляют фактическое значение критерия. В соответствии с этим критерием сначала вычисляют коэффициент асимметрии k₃ в соответствии с уравнением (М.1)

затем - коэффициент эксцесса k₄ в соответствии с уравнением (М.2)

и величину критерия Харке-Бера JB в соответствии с уравнением (М.3)

Затем определяют табличное значение критерия на основе таблицы М.1 критических значений Пирсона на уровне значимости 0,05 и числе степеней свободы 2. Это значение равно 5,991. Уровень значимости - это вероятность ошибки при утверждении, что распределение является ненормальным. Общепринятой является вероятность ошибки, не превышающая 5%. Число степеней свободы в данном случае отвечает за количество параметров в формуле критерия, а ими являются асимметрия и эксцесс.

Таким образом, если величина JB > 5,991, то распределение не является нормальным, а если величина JB < 5,991, то распределение является нормальным.

Если использовать весь приведенный массив данных, то коэффициент асимметрии k₃ в соответствии с уравнением (М.1) равняется 3,10, а коэффициент эксцесса k₄ равняется 9,971. Рассчитанная по уравнению 33 величина критерия Харке-Бера JB равняется 137,8. Таким образом, 137,8 более 5,991 и распределение массива данных не является нормальным.

Если отбросить два максимальных измерения (296,9 и 728,9 мкг/кг), то коэффициент асимметрии k₃ в соответствии с уравнением (М.1) равняется 0,973, а коэффициент эксцесса k₄ равняется минус 0,410. Рассчитанная по уравнению 33 величина критерия Харке-Бера JB равняется 3,63. Таким образом, 3,63 менее 5,991 и распределение массива данных является нормальным.

Критерий Д'Агостино основан на D-статистике, который определяет постоянное отношение оценки популяции Даунтона к стандартному отношению выборки. Критерий учитывает отклонения от нормальности для эксцесса и асимметрии. Порядок расчета по этому критерию приведен ниже:

а) необходимо рассортировать данные в порядке возрастания от самого маленького к самому большому значению, где x(1) - самая маленькая величина, x(2) - следующая большая величина и x(n) - самая большая величина;

б) затем вычисляют величину критерия D в соответствии с уравнением (Н.1)

где n - количество данных в массиве;

и

где - величина среднего арифметического выборки;

i - порядок (или ранг) наблюдения x;

в) затем вычисляют критерий Y в соответствии с уравнением

г) находят величину критерия Д'Агостино в таблице Н.1. Если число образцов не перечислено в таблице, следует использовать следующую графу для более низкого значения n. Для каждого уровня значимости в таблице даны два критических значения. Если вычисленное значение Y меньше или равно первому члену пары (критической величине ) или больше или равно второму члену пары (критической величине ), то распределение концентраций в массиве данных не является нормальным.