"Р 52.24.819-2014. Рекомендации. Оценка антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей"
(введены в действие Приказом Росгидромета от 17.12.2014 N 684)

1 РАЗРАБОТАНЫ Федеральным государственным бюджетным учреждением "Гидрохимический институт" (ФГБУ "ГХИ")

2 РАЗРАБОТЧИКИ А.М. Никаноров, д-р геол.-минер. наук; В.А. Брызгало, канд. хим. наук; Л.С. Косменко, канд. хим. наук; О.С. Решетняк, канд. геогр. наук; А.О. Даниленко, канд. биол. наук; М.Ю. Кондакова, канд. биол. наук

3 СОГЛАСОВАНЫ с Федеральным государственным бюджетным учреждением "Научно-производственное объединение "Тайфун" (ФГБУ "НПО "Тайфун") 16.10.2014 и Управлением мониторинга загрязнения окружающей среды, полярных и морских работ (УМЗА) Росгидромета 20.11.2014

4 УТВЕРЖДЕНЫ Заместителем Руководителя Росгидромета 21.11.2014

ВВЕДЕНЫ В ДЕЙСТВИЕ приказом Росгидромета от 17.12.2014 N 684

5 ЗАРЕГИСТРИРОВАНЫ ФГБУ "НПО "Тайфун" от 02.24.2014 за номером Р 52.24.819-2014

6 ВВЕДЕНЫ ВПЕРВЫЕ

7 СРОК ПЕРВОЙ ПРОВЕРКИ 2020 год

ПЕРИОДИЧНОСТЬ ПРОВЕРКИ 5 ЛЕТ

Настоящие рекомендации устанавливают подходы к оценке антропогенной нагрузки по показателям доли антропогенного воздействия и/или притока химических веществ на речные экосистемы с учетом их региональных особенностей, необходимой для совершенствования режимного и оперативного мониторинга, типизации объектов водного фонда, прогнозирования качества поверхностных вод и решения других практических задач.

Рекомендации предназначены для оперативно-производственных подразделений Росгидромета, осуществляющих наблюдения за изменчивостью химико-биологического состояния поверхностных вод суши в рамках Государственной службы наблюдений за состоянием окружающей среды (ГСН), для подразделений соответствующих министерств и ведомств, в задачи которых входит своевременное предупреждение о возможной экологической угрозе на контролируемых водных объектах, а также для научно-исследовательских организаций, занимающихся вопросами оценки и прогнозирования последствий антропогенного воздействия на речные экосистемы.

В настоящих рекомендациях использованы ссылки на следующие нормативные документы:

РД 52.24.309-2011 Организация и проведение режимных наблюдений за состоянием и загрязнением поверхностных вод суши

РД 52.24.508-96 Методические указания. Организация и функционирование подсистемы мониторинга состояния трансграничных поверхностных вод суши

РД 52.24.622-2001 Методические указания. Проведение расчетов фоновых концентраций химических веществ в воде водотоков

РД 52.24.633-2002 Методические указания. Методические основы создания и функционирования подсистемы мониторинга экологического регресса пресноводных экосистем

РД 52.24.643-2002 Методические указания. Метод комплексной оценки степени загрязненности поверхностных вод по гидрохимическим показателям

Р 52.24.661-2004 Оценка риска антропогенного воздействия приоритетных загрязняющих веществ на поверхностные воды суши

Р 52.24.776-2012 Оценка антропогенной нагрузки и риска воздействия на устьевые области рек с учетом их региональных особенностей

Примечание - При пользовании настоящих рекомендаций целесообразно проверять действие ссылочных нормативных документов.

3.1 В настоящих рекомендациях применяются следующие термины с соответствующими определениями:

3.1.1 абиотическая компонента: Абиотическая среда, представляющая совокупность неорганических условий (факторов) обитания организмов [1].

3.1.2 антропогенная нагрузка: Степень антропогенно-техногенного воздействия на отдельные компоненты природной среды или в целом на ландшафт [1].

3.1.3 вариационный ряд: Совокупность значений варьирующего признака и соответствующих им численностей единиц совокупности [2].

3.1.4 величина интервала (интервальная разность): Разность между верхними и нижними границами интервала [2].

3.1.5 воздействие антропогенное: Влияние человека и его деятельности на окружающую природную среду [3].

3.1.6 интервал: Границы значений варьирующего признака [2].

3.1.7

3.1.8

3.1.9 классификация степени загрязненности воды водных объектов: Условное разделение всего диапазона состава и свойств воды водных объектов в условиях антропогенного воздействия с постепенным переходом от "условно чистой" до "экстремально грязной" по значениям комбинаторного индекса загрязненности воды с учетом ряда дополнительных факторов (РД 52.24.643).

3.1.10 критерий: Признак, на основании которого проводятся оценка состояния природного объекта или его свойств (например, качества вод, трофности, благополучия, функционирования водной экосистемы и др.); классификация объектов, явлений, свойств [4].

3.1.11 критические показатели загрязненности воды; КПЗ: Ингредиенты или показатели загрязненности воды, которые обуславливают перевод воды по степени загрязненности в класс "очень грязная" и "экстремально грязная" на основании значения рассчитываемого по каждому ингредиенту оценочного балла, учитывающего одновременно значения наблюдаемых концентраций и частоту их обнаружения (РД 52.24.643).

3.1.12 модальный интервал: Интервал, включающий наиболее часто встречающиеся величины в данном вариационном ряду [2].

3.1.13

3.1.14

3.1.15

3.1.16

3.2 В настоящих рекомендациях введены и применены следующие сокращения:

- БПК₅ - биохимическое потребление кислорода;

- ГСН - государственная служба наблюдений за состоянием окружающей среды;

- ЛООВ - легкоокисляемые органические вещества;

- ПДК - предельно допустимая концентрация;

- УКИЗВ - удельный комбинаторный индекс загрязненности воды.

4.1 Возрастающие темпы хозяйственной деятельности человека обусловливают необходимость оценки антропогенной нагрузки на различные геосистемы (объекты окружающей среды) с учетом всей совокупности возможного вредного воздействия различных факторов и природной специфики объектов (региональных особенностей).

Допустимой будет считаться такая антропогенная нагрузка, при которой отклонение системы от нормального естественного состояния не приводит к нарушению природных устойчивых биогеохимических связей в экосистемах и не ухудшает качество среды.

4.2 При оценке антропогенной нагрузки на речные экосистемы необходимо выявить границы между областями их нормального функционирования и измененного (под влиянием какого-либо фактора воздействия). Это позволяет оценить различные состояния экосистемы от естественного до антропогенно трансформированного, при котором произошли существенные изменения в состоянии экосистемы.

4.3 Градации антропогенной нагрузки устанавливают по результатам оценки состояния речных экосистем в зависимости от степени их нарушенности, а также на основе выявления причинно-следственных связей между воздействием на биоту и ее откликом.

Согласно Р 52.24.661 и [1], [3] состояние речных экосистем можно условно разделить на:

- естественное - не нарушенное антропогенным воздействием;

- равновесное - скорость внутриводоемных биохимических процессов восстановления экосистемы превышает темпы антропогенных нарушений;

- кризисное - скорость внутриводоемных биохимических процессов восстановления экосистемы ниже темпов антропогенных нарушений;

- критическое - обратимая замена природных экологических систем на измененные по трофности, сапробности и биологической продуктивности пресноводные экосистемы;

- катастрофическое - необратимый процесс перехода пресноводных экосистем в новое состояние по трофности, сапробности и биологической продуктивности.

4.4 Классификаторы оценки антропогенной нагрузки на речные экосистемы разработаны на основе систематизации многолетней режимной информации ГСН о состоянии речных экосистем России, позволяющей учесть все многообразие региональных особенностей их формирования и функционирования.

В перечень показателей, по которым проводится оценка изменчивости состояния речных экосистем, включены такие гидрохимические показатели, как содержание растворенного в воде кислорода, азот аммонийный, биохимическое потребление кислорода (БПК₅), нефтепродукты, которые удовлетворяют требованиям интегральности, неспецифичности отклика на воздействие, минимизации затрат на измерение, надежности определения [5].

Оценка изменчивости состояния речных экосистем дает возможность выявить интервалы колебания показателей, превышение которых приводит к переходу экосистемы в другое состояние. Градации состояния речных экосистем приведены в 4.3.

Экосистемы, функционирующие в разных состояниях, испытывают разную по уровню антропогенную нагрузку.

Антропогенная нагрузка на различных участках реки в основном обусловливается поступлением химических веществ с речным стоком с расположенных выше участков.

4.5 Оценку антропогенной нагрузки по длине реки проводят на основе анализа многолетней гидрологической и гидрохимической информации ГСН на пунктах режимных наблюдений.

Участки реки выбирают с учетом наличия стационарных пунктов режимных наблюдений ГСН, неравномерности антропогенного воздействия и различных физико-географических условий функционирования речных экосистем.

Корректировка выбора участков реки для оценки антропогенной нагрузки может быть проведена на основе анализа многолетней режимной информации согласно РД 52.24.633, РД 52.24.643, Р 52.24.661, Р 52.24.776 с учетом оценки:

а) степени загрязненности и изменчивости компонентного состава водной среды на различных участках по длине реки;

б) изменчивости биотических показателей состояния речных экосистем на отдельных участках реки;

в) изменчивости состояния речных экосистем на различных участках реки.

4.6 Оценку антропогенной нагрузки проводят по показателю доли антропогенного воздействия (определяемому за каждый год по формуле расчета коэффициента комплексности согласно РД 52.24.643 и Р 52.24.661), либо по значениям модуля притока химических веществ (азот аммонийный, легкоокисляемые органические вещества (ЛООВ), определяемые по БПК₅ воды, и нефтепродукты).

Доля антропогенного воздействия имеет экологический смысл, оценивает участие антропогенной составляющей в формировании компонентного состава водной среды (Р 52.24.776) и рассчитывается как коэффициент комплексности воды при расчете удельного комбинаторного индекса загрязненности воды (УКИЗВ) (РД 52.24.643). Антропогенная нагрузка, определяемая по доле антропогенного воздействия, обуславливается, в основном, загрязняющими веществами.

Оценка антропогенной нагрузки по значениям модуля притока химических веществ (азот аммонийный, ЛООВ (по БПК₅ воды) и нефтепродукты) учитывает вклад органических и биогенных веществ в химический состав воды.

Характер изменчивости объемов притока растворенных химических веществ на различные участки реки дает возможность оценить трансформацию антропогенной нагрузки по длине исследуемого водотока.

Условно антропогенная нагрузка может быть "малой", "умеренной", "критической", "высокой" или "очень высокой" (Р 52.24.776).

4.7 Для выбранных участков рек проводят расчет доли антропогенного воздействия согласно Р 52.24.661, объемов и модулей притока химических веществ и оценку антропогенной нагрузки на конкретных участках реки.

Это позволит выявить закономерности (тенденции) изменчивости антропогенной нагрузки по длине реки и ранжировать водные экосистемы по степени испытываемой антропогенной нагрузки.

4.8 При оценке антропогенной нагрузки на речные экосистемы используют такие характеристики, как:

а) модальный интервал значений показателей, используемых при оценке состояния и антропогенной нагрузки;

б) кратность превышения предельно допустимых концентраций (ПДК) загрязняющих веществ;

в) диапазон максимальных значений модулей притока растворенных химических веществ.

5.1 Для оценки антропогенной нагрузки необходимо иметь:

а) многолетнюю режимную информацию об изменчивости гидрохимических показателей состояния участков реки, испытывающих принципиально разную антропогенную нагрузку;

б) многолетнюю режимную гидрологическую информацию об объеме стока за год (водном стоке) в пункте наблюдений;

в) классификаторы оценки антропогенной нагрузки на речные экосистемы.

5.2 Степень загрязненности водной среды определяют согласно РД 52.24.643 по методу комплексной оценки, который позволяет оценить загрязненность воды одновременно по перечню наиболее регулярно определяемых ингредиентов и показателей качества воды и классифицировать воду по степени ее загрязненности.

5.3 Оценку состояния экосистем выбранных участков реки проводят по изменчивости:

- модальных интервалов значений концентраций таких показателей, как растворенный кислород, БПК₅ и азот аммонийный с использованием классификатора, приведенного в таблице 1 согласно Р 52.24.661, Р 52.24.776;

- структурной организации и уровня развития планктонных и бентосных сообществ водных организмов при наличии режимных гидробиологических наблюдений с использованием критериев, приведенных в РД 52.24.633, Р 52.24.661, Р 52.24.776.

5.4 Оценку антропогенной нагрузки на основе значений доли антропогенного воздействия проводят в следующей последовательности.

5.4.1 Многолетние исследования показали обоснованность использования для оценки антропогенной нагрузки показателя доли антропогенного воздействия, значение которого определяют по результатам расчета УКИЗВ с использованием обязательного перечня наиболее регулярно определяемых 15 нормируемых показателей по РД 52.24.643.

Доля антропогенного воздействия, D, %, оценивает участие антропогенной составляющей в формировании компонентного состава абиотической части экосистемы. Данный показатель рассчитывают в соответствии с Р 52.24.661 по формуле

где N₁ - число ингредиентов, превышающих ПДК;

N - общее число нормируемых ингредиентов, используемых при расчете УКИЗВ (перечень нормируемых ингредиентов приведен в РД 52.24.643, пункт В.1).

Получают выборки значений показателя доли антропогенного воздействия для каждого участка реки. Полученные выборки должны быть достаточно большими (не менее 6 лет) и, предпочтительно, статистически однородными.

5.4.2 Выделяют модальный интервал значений доли антропогенного воздействия и оценивают антропогенную нагрузку по критериям, приведенным в таблице 2. Один из способов установления модальных интервалов приведен в приложении А.

5.5 Оценку антропогенной нагрузки по модулю притока химических веществ проводят в следующей последовательности.

5.5.1 Количество перенесенного вещества за расчетный период, G, тыс. тонн, рассчитывают прямым методом в соответствии с РД 52.24.508 по формуле

где m - число интервалов расчетного периода;

W₁ - объем стока воды за i-й интервал расчетного периода, км³;

- средняя концентрация вещества за i-й интервал расчетного периода, мг/дм³.

Изменение содержания в водной среде ЛООВ, азота аммонийного, нефтепродуктов оказывает негативное воздействие, способное вызвать нарушение структурно-функциональных характеристик сообществ водных организмов и ухудшение состояния экосистемы в целом.

5.5.2 Рассчитывают значения модуля притока химических веществ на конкретный участок реки за каждый год.

Модуль притока растворенных химических веществ, M, т/км², определяют по формуле

где F - площадь водосбора, тыс. км².

Получают вариационные ряды значений модуля притока нефтепродуктов, азота аммонийного и ЛООВ (по БПК₅) и выделяют их модальные интервалы (см. приложение А). Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.

Использование модуля притока химических веществ позволяет сравнивать антропогенную нагрузку на отдельных участках реки с различными объемами водного стока и площадями водосбора.

5.6 Оценка антропогенной нагрузки по длине водотока, как по показателю доли антропогенного воздействия, так и по модулю притока химических веществ, проводится в следующей последовательности.

Формируют выборки значений доли антропогенного воздействия и модулей притока химических веществ за каждый год за одинаковые временные интервалы для каждого пункта.

Проверяют статистическую однородность выборок значений показателя для каждого пункта как показано в приложении Б.

Оценивают наличие или отсутствие статистически значимых изменений антропогенной нагрузки между ближайшими пунктами, что позволяет оценить изменчивость антропогенной нагрузки по длине водотока. В случае отсутствия таких изменений делают вывод о равномерной антропогенной нагрузке на исследуемый участок водотока. Если пункты охватывают весь водоток и антропогенная нагрузка от истока к устью статистически значимо не меняется, антропогенную нагрузку на весь водоток считают равномерной.

Об усилении антропогенной нагрузки по длине водотока судят по увеличению среднего арифметического в случае однородных выборок или медианы в случае неоднородных выборок значений показателей доли антропогенного воздействия и/или модуля притока химических веществ в ближайших друг к другу пунктах, если наоборот - о снижении антропогенной нагрузки на исследуемом участке.

5.7 Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.

Результаты практического использования алгоритма проведения оценки антропогенной нагрузки на основе значений доли антропогенного воздействия приведены на примере отдельных участков р. Дон в приложении Г, по значениям модуля притока химических веществ - в приложении Д.

Выделение модального интервала значений показателей, используемых при оценке состояния речных экосистем и антропогенной нагрузки проводится в следующей последовательности:

А.1 Ранжирование вариационных рядов значений показателей.

А.2 Подсчет объема выборки (количество значений показателя) n и вычисление среднего арифметического . Перед расчетом среднего арифметического из рядов значений показателей должны быть удалены аномально высокие или низкие значения, появление которых может быть связано только с грубыми ошибками при получении информации согласно РД 52.24.622.

А.3 Группировка значений вариационного ряда осуществляется на основе использования стандартного отклонения, , как оптимальной ширины интервала. Расчет шага группировки значений проводится по формуле А.1, либо по формуле А.2

где X_i - i-ое значение показателя выборки,

- среднее арифметическое значений показателя выборки,

n - количество значений показателя в выборке.

Полученное значение принимается как шаг группировки данных.

А.4 Определение границ интервалов (минимальная и максимальная) вариационного ряда. Границы интервалов приводятся с точностью на один разряд больше, чем значение показателя (то есть, если значение показателя определено с точностью до 0,1, границы интервалов приводятся с точностью до 0,01).

Минимальная граница первого интервала Int¹_min равна наименьшему значению выборки X_min согласно формуле

Для получения максимальной границы первого интервала Int_1max к его минимальной границе прибавляется стандартное отклонение по формуле

Минимальная граница второго интервала Int²_min отличается от максимальной первого интервала на величину m_int и рассчитывается по формуле

Определение границ интервалов осуществляется до тех пор, пока максимальная граница очередного интервала не превысит максимальное значение показателя в выборке.

А.5 Распределение значений показателей по установленным интервалам.

Интервал, в который попадает наибольшее количество значений, является модальным. Для оценки его границ используют фактическое минимальное и максимальное значения показателя, вошедшие в расчетные границы модального интервала. Для удобства выделения модального интервала ряд распределения представляют графически в виде гистограммы частостей, где по оси абсцисс откладывают значения границ интервалов и на их основании стоят прямоугольники, высота которых пропорциональна частостям.

В первый интервал с расчетными границами от 0 до 0,120 мг/дм³ попадает наибольшее количество значений (66 из 119 или 55,5%). Минимальная концентрация азота аммонийного, попавшая в него, равна 0 мг/дм³, максимальная - 0,12 мг/дм³. Таким образом, найденный модальный интервал для азота аммонийного составляет от 0 до 0,12 мг/дм³ и включает в себя 55,5% всех значений вариационного ряда.

Пример гистограммы частостей концентраций азота аммонийного в воде р. Дон на участке у г. Константиновск показан на рисунке А.1.

Оценку антропогенной нагрузки проводят по таким показателям, как доля антропогенного воздействия и/или модуль притока химических веществ. Определение статистической однородности рядов значений показателей для оценки антропогенной нагрузки приводится на примере доли антропогенного воздействия и проводится в следующей последовательности.

Б.1 Для каждого пункта наблюдений составляют рабочую таблицу на основе данных по программе расчета данных УКИЗВ, включающую степень загрязненности и значение доли антропогенного воздействия, D, за каждый год (таблица Б.1). Ряды наблюдений должны быть достаточно большими (не менее 6 лет), а выборки значений доли антропогенного воздействия, предпочтительно, статистически однородными.

Б.2 Проверка статистической однородности выборок значений показателя доли антропогенного воздействия для каждого участка реки.

Для оценки статистической однородности значений доли антропогенного воздействия проводят анализ полученной совокупности по коэффициенту вариации, C_V, %, [6], который рассчитывают по формуле

где - среднее арифметическое выборки значений доли антропогенного воздействия.

Среднее арифметическое и стандартное отклонение рассчитывают по общепринятым статистическим формулам (см. приложение А).

Оценку однородности выборок значений доли антропогенного воздействия по значению C_V проводят по следующим градациям [7]:

- менее 17% - абсолютно однородная;

- от 17% до 35% - достаточно однородная;

- от 35% до 40% - недостаточно однородная;

- от 40% до 60% - неоднородная;

- свыше 60% - абсолютно неоднородная.

Б.3 Алгоритм анализа выборок значений доли антропогенного воздействия с различной степенью однородности представлен на рисунке Б.1.

Б.4 Для дальнейшего анализа с применением t-критерия Стьюдента для парных зависимых выборок требуются абсолютно и достаточно однородные выборки.

Для недостаточно однородных и неоднородных выборок рекомендуется проанализировать выборку на наличие промахов (сильно отличающихся значений) и оценить C_V выборки значений D после исключения промахов. Абсолютно неоднородные выборки анализируются с использованием критерия Вилкоксона для зависимых выборок.

Б.5 Наличие промахов в выборке значений D оценивают по критерию Ирвина [8]. Для этого выборку ранжируют от минимального значения к максимальному. Критерий определяют по формуле

где X_n+1 и X_n - наибольшие значения показателя в выборке.

Затем сравнивается с табличным значением критерия, , приведенным в таблице В.1. Если объем выборки занимает промежуточное положение между приведенными в таблице В.1, используют критерий для большего n. Например, для анализа выборки, состоящей из 15 вариантов, применяют , рассчитанный для n = 20 (1,3 при p < 0,05 и 1,8 при p < 0,01). Рекомендуемый уровень значимости p < 0,05.

Если , то нулевая гипотеза не подтверждается, т.е. результат - ошибочный, и он должен быть исключен при дальнейшей обработке результатов наблюдений.

Б.6 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, однородные выборки значений доли антропогенного воздействия за идентичные временные интервалы сопоставляются с использованием t-критерия Стьюдента для парных зависимых наблюдений [9]. Нулевая гипотеза (H₀) предполагает, что разница между генеральными параметрами сравниваемых совокупностей равна нулю и различия между наблюдаемыми показателями носят не систематический, а случайный характер. Альтернативная гипотеза (H₁) предполагает, что между показателями в сравниваемых пунктах проявляются систематические статистически значимые отличия.

Для сравнения выборок необходимо рассчитать t-критерий Стьюдента для парных зависимых наблюдений, сравнить его с теоретическим табличным значением и сделать вывод о наличии или отсутствии статистически значимых отличий.

Вычисление значения критерия Стьюдента t_факт осуществляется по формуле

где - среднее арифметическое разностей между соответствующими показателями (за один и тот же год) в сравниваемых пунктах;

- стандартная ошибка разностей показателей.

Среднее арифметическое разностей между соответствующими показателями вычисляется по формуле

где n' - количество пар значений показателя,

x_i, y_i - значения показателя D в пунктах А и Б.

Стандартная ошибка разностей показателей вычисляется по формуле

где S_d - стандартное отклонение выборки разностей показателей.

Стандартное отклонение выборки разностей показателей вычисляется по формуле

где (n' - 1) - число степеней свободы, k для определения t_теор (см. таблицу В.2)

Значения t-критерия Стьюдента, t_теор при p < 0,05 для выборок объемом не более 20 лет приведены в таблице В.2. Рекомендуемый уровень значимости не ниже 0,1 < p < 0,05. Для выборок большего объема значения t_теор при различных уровнях значимости приведены в справочных таблицах [9], [10]. Если t_факт < t_теор, то нулевая гипотеза принимается, в противном случае принимается альтернативная.

Для оценки направления изменений сопоставляются средние арифметические значения выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение среднего арифметического показателя вышерасположенного по течению реки пункта превышает значение среднего арифметического нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.

Б.7 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, неоднородные и абсолютно неоднородные выборки значений показателей за идентичные временные интервалы сопоставляются с использованием критерия Вилкоксона для парных зависимых наблюдений [11]. Нулевая гипотеза (H₀) предполагает, что различия между наблюдаемыми показателями носят случайный характер, а альтернативная (H₁) - систематический характер.

Рабочая таблица (таблица Б.6) при использовании критерия Вилкоксона заполняется следующим образом:

а) для каждого года вычисляют величину изменения показателя (d_i) между пунктом А (x_i) и пунктом Б (y_i). Пары наблюдений, которым соответствует нулевое изменение, следует исключить из анализа, соответственно уменьшив на единицу объем выборки;

б) вычисленные изменения упорядочивают по возрастанию их абсолютной величины (без учета знака) и нумеруют так, чтобы наименьшая разность получила первый ранг, R. Одинаковым по величине разностям присваивают один и тот же ранг, вычисленный как среднее тех мест, которые они занимают в упорядоченном ряду;

в) полученным рангам присваивают знак в соответствии с направлением изменения и получают знаковый ранг (Rz) отрицательный при уменьшении и положительный при увеличении;

г) вычисляют сумму знаковых рангов W_факт отдельно для положительных рангов и отдельно для отрицательных по формуле

где n' - количество пар значений показателя;

R_z - знаковый ранг изменения показателей.

"Типичным сдвигом" считается сумма преобладающих по знаку рангов, "нетипичным сдвигом" - редких по знаку рангов.

д) меньшую из двух сумм разностей ("нетипичный сдвиг") без учета ее знака используют в качестве фактически установленной величины W_факт. Сравнивают полученную величину W_факт для принятого уровня значимости p и числа парных наблюдений n', которое берут без нулевых разностей, с критерием W_теор, приведенным в таблице В.3. При W_факт <= W_теор принимается гипотеза H₁, в противном случае - H₀. Рекомендуемый уровень значимости не ниже p < 0,05.

Для количества пар наблюдений n' > 25 критические значения критерия Вилкоксона можно определить по формуле

где n' - количество пар значений показателей,

q - величина, зависящая от принятого уровня значимости p (при p < 0,05 q = 1,96, при p < 0,01 q = 2,58) [9].

Б.8 Согласуясь с результатами применения t-критерия Стьюдента или критерия Вилкоксона, делают вывод о наличии или отсутствии статистически значимых изменений показателей, по которым определяют антропогенную нагрузку, между ближайшими пунктами по длине водотока. В случае отсутствия таких изменений делают вывод о равной антропогенной нагрузке на исследуемый участок.

Для оценки направления изменений сопоставляются значения медианы выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение медианы показателя вышерасположенного по течению реки пункта превышает значение медианы нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.

Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.

Г.1 Для оценки антропогенной нагрузки на различные участки р. Дон выбраны пункты: г. Константиновск, ст. Раздорская и г. Ростов-на-Дону. Характеристики пунктов наблюдений приведены в таблице Г.1. Для анализа использована информация за период с 1999 по 2012 годы.

Г.2 Производится расчет значений доли антропогенного воздействия за каждый год в пунктах наблюдений. Рассчитанные значения показателя приведены в таблицах Г.2 - Г.4.

Г.3 Анализ на однородность для каждой выборки рассчитанных значений доли антропогенного воздействия проводят по коэффициенту вариации, по величине которого делается заключение о степени однородности согласно приложению Б.

Результаты анализа на однородность выборок значений показателя доли антропогенного воздействия на разных участках по длине р. Дон представлены в таблице Г.5.

Г.4 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по доле антропогенного воздействия выделяют модальный интервал значений показателя, сравнивают его с критериями, приведенными в таблице 2 и делают вывод о нагрузке.

По длине р. Дон антропогенная нагрузка меняется от умеренной до высокой (таблица Г.6).

Г.5 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов г. Константиновск и ст. Раздорская приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия абсолютно и достаточно однородны (таблица Г.5) для их сравнения используют t-критерий Стьюдента.

Согласно приложению Б необходимо рассчитать t_факт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета t_факт приведены в таблице Г.7.

Среднее значение разностей значений показателя D равно -6,07, сумма квадратов разностей значений показателя D составляет 534,93.

По данным, представленным в таблице Г.7, рассчитывают стандартную ошибку разностей значений D и стандартное отклонение выборки разностей значений D по формулам Б.5 и Б.6

Фактическое значение критерия, t_факт составляет

Теоретическое значение критерия, t_теор при уровне значимости p < 0,05 и числе степеней свободы k = 13: t_теор = 2,16 (см. таблицу В.2).

Таким образом, 3,54 > 2,16, то есть t_факт > t_теор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между г. Константиновск и ст. Раздорской испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. Поскольку среднее арифметическое значение доли антропогенного воздействия в пункте ст. Раздорская превышает аналогичную величину в пункте г. Константиновск, можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.

Г.6 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов ст. Раздорская и г. Ростов-на-Дону приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия достаточно однородны (таблица Г.5) для их сравнения используют t-критерий Стьюдента.

Согласно приложению Б необходимо рассчитать t_факт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета t_факт приведены в таблице Г.8.

Среднее значение разностей значений показателя D равно -14,14; сумма квадратов разностей значений показателя D составляет 1231,71. По данным, представленным в таблице Г.8, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 9,73 и 2,60, соответственно.

Фактическое значение критерия, t_факт составляет 5,43. Теоретическое значение критерия t_теор при уровне значимости p < 0,05 и числе степеней свободы k = 13 равно 2,16 (см. таблицу В.2).

Таким образом, 5,43 > 2,16, то есть t_факт > t_теор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между ст. Раздорской и г. Ростов-на-Дону испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. С учетом того, что значение среднего арифметического значений D в пункте г. Ростов-на-Дону превышает аналогичную величину в пункте ст. Раздорская можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.

Д.1 Для оценки антропогенной нагрузки по модулю притока растворенных химических веществ на различные участки р. Дон выбраны те же пункты, что и в приложении В (см. таблицу В.1). Для оценки использована информация за период с 1999 по 2012 годы о содержании в водной среде азота аммонийного, ЛООВ (по БПК₅) и нефтепродуктов, а также данные об объемах водного стока.

Д.2 Оценка антропогенной нагрузки по модулю притока растворенных химических веществ проводится в соответствии с 5.5.

Для расчета среднегодовых значений концентраций данные предварительно анализируют на наличие промахов согласно приложению Б.

Данные по значениям модулей притока химических веществ на пункты г. Константиновск, ст. Раздорская и г. Ростов-на-Дону приведены в таблицах Д.1 - Д.3.

Д.3 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по модулю притока химических веществ выделяют модальный интервал значений показателя.

Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.

По длине р. Дон антропогенная нагрузка по притоку ЛООВ и нефтепродуктов оценивается как малая, а по притоку азота аммонийного колеблется от малой до умеренной (таблица Д.4).

Д.4 Анализ на однородность выборок рассчитанных значений модулей притока химических веществ проводят для каждой выборки по коэффициенту вариации, по величине которого делается заключение о степени однородности выборки согласно приложению Б.

Результаты анализа представлены в таблице Д.5.

Д.5 Определение статистических критериев для сопоставления выборок на наличие или отсутствие статистически значимых отличий. Согласно данным, представленным в таблице Д.5, сравнение выборок значений модулей притока:

- ЛООВ следует осуществлять с применением t-критерия Стьюдента, поскольку выборки достаточно однородны;

- азота аммонийного в пункте г. Ростов-на-Дону и нефтепродуктов в пунктах г. Константиновск и г. Ростов-на-Дону абсолютно неоднородны, поэтому их сравнение должно осуществляться по критерию Вилкоксона;

- азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская недостаточно однородны для сравнения по критерию Стьюдента, поэтому для них проводится дополнительный анализ на наличие промахов согласно приложению Б, при исключении которых выборка данных может стать достаточно однородной. Результаты проверки выборок на наличие промахов значений приведены в таблице Д.6.

При уровне значимости p < 0,05 критерий при n = 10 равен 1,5, а при n = 13 равен 1,3 (используется критерий при n = 20, см. Б.5), следовательно, нулевая гипотеза об ошибочности результата и исключении крайней варианты из выборки не принимается ни в одном из рассмотренных случаев.

Таким образом, выборки значений модулей притока азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская не содержат промахов, которые можно было бы исключить, и считаются неоднородными. Статистический анализ такой выборки должен осуществляться с применением критерия Вилкоксона.

Д.6 Сопоставление выборок значений модулей притока химических веществ проводится с применением выбранных статистических критериев (см. Д.5) и алгоритму, приведенному в приложении Б.

Промежуточные данные расчета t_факт для сравнения выборок значений модулей притока ЛООВ в пунктах г. Константиновск и ст. Раздорская представлены в таблице Д.7; для пунктов ст. Раздорская и г. Ростов-на-Дону - в таблице Д.8.

Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0299; сумма квадратов разностей значений показателя составляет 0,0082. По данным, представленным в таблице Д.7, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 0,0260 и 0,0072, соответственно.

Фактическое значение критерия, t_факт составляет 4,12. Теоретическое значение критерия t_теор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см. таблицу В.2).

Таким образом, 4,12 > 2,18, то есть t_факт > t_теор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает неравномерную антропогенную нагрузку по модулю притока ЛООВ.

С учетом того, что значение среднего арифметического значений модуля притока ЛООВ в пункте г. Константиновск (0,166 т/км² в год) превышает аналогичную величину в пункте ст. Раздорская (0,136 т/км² в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.

Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0233; сумма квадратов разностей значений показателя составляет 0,0242. По данным, представленным в таблице Д.8, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений модуля притока ЛООВ и стандартное отклонение выборки разностей значений показателя равны 0,0449 и 0,0124, соответственно.

Фактическое значение критерия, t_факт составляет 1,87. Теоретическое значение критерия t_теор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см. таблицу В.2).

Таким образом, 1,87 < 2,18, то есть t_факт < t_теор, следовательно, принимается нулевая гипотеза об отсутствии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает равномерную антропогенную нагрузку по модулю притока ЛООВ.

Д.7 Сопоставление выборок значений модулей притока азота аммонийного осуществляется с использованием критерия Вилкоксона (см. Д.5) согласно приложению Б.

Промежуточные данные расчета W_факт для сравнения выборок значений модулей притока азота аммонийного в пунктах г. Константиновск и ст. Раздорская представлены в таблице Д.9; для пунктов ст. Раздорская и г. Ростов-на-Дону - в таблице Д.10.

Согласно данным, приведенным в таблице Д.9, сумма положительных рангов ("типичный сдвиг") равна 28, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 8.

Согласно данным таблицы В.3 при p < 0,05 и n = 8 величина W_теор составляет 5. Таким образом, 8 > 5, то есть W_факт > W_теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает равномерную антропогенную нагрузку по данному показателю.

Согласно данным, приведенным в таблице Д.10, сумма положительных рангов ("типичный сдвиг") равна 1, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 16.

Согласно данным таблицы В.3 при p < 0,05 и n = 8 величина W_теор составляет 5. Таким образом, 1 < 5, то есть W_факт < W_теор, следовательно, принимается альтернативная гипотеза о наличии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает неравномерную антропогенную нагрузку по данному показателю.

С учетом того, что медиана выборки значений модуля притока азота аммонийного в пункте ст. Раздорская (0,013 т/км² в год) превышает аналогичную величину в пункте г. Ростов-на-Дону (0,005 т/км² в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.

Д.8 Аналогично проводят сопоставление выборок значений модулей притока нефтепродуктов.

Согласно результатам, приведенным в таблице Д.11 р. Дон от пункта г. Константиновск до пункта ст. Раздорская испытывает равномерную антропогенную нагрузку по значениям модулей притока нефтепродуктов.

Согласно данным таблицы В.3 при p < 0,05 и n = 10 величина W_теор составляет 9. Таким образом, 17 > 5, то есть W_факт > W_теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами г. Константиновск и ст. Раздорская. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.

Согласно данным таблицы В.3 при p < 0,05 и n = 13 величина W_теор составляет 18. Таким образом, 45 > 8, то есть W_факт > W_теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами ст. Раздорская и г. Ростов-на-Дону. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.

[1] Хрусталев Ю.П. Эколого-географический словарь. - РГУ: Батайск, 2000. - 197 с.

[2] Венецкий И.Г., Венецкая В.И. Основные математико-статистические понятия и формулы в экономическом анализе. - М.: Статистика, 1979. - 440 с.

[3] Реймерс Н.Ф., Яблоков А.В. Словарь терминов и понятий, связанных с охраной живой природы. - М.: Наука, 1982. - 144 с.

[4] Дмитриев В.В., Фрумин Г.Т. Экологическое нормирование и устойчивость природных систем / Учебное пособие. - СПб.: Наука, 2004. - 294 с.

[5] Левич А.П., Булгаков Н.Г, Максимов В.Н. Теоретические и методические основы технологии регионального контроля природной среды по данным экологического мониторинга. - М.: НИА. - Природа, 2004. - 273 с.

[6] Сизова Т.М. Статистика: Учебное пособие. - СПб.: СПб ГУИТМО, 2005. - 80 с.

[7] Юдина А.В. Статистика: Учебное пособие. - Электронный учебник. Доступно по URL: /template/go.php?url=https://abc.vvsu.ru/Books/statistika_up/default.asp

[8] Третьяк Л.Н. Обработка результатов наблюдений: Учебное пособие. - Оренбург: ГОУ ОГУ, 2004. - 171 с.

[9] Лакин Г.Ф. Биометрия: Учебное пособие для биол. спец. вузов - 4-е изд., перераб. и дополн. - М.: "Высшая школа", 1990. - 352 с.

[10] Дерффель. Статистика в аналитической химии. Под ред. Ю.П. Адлера. - М. "Мир", 1994. - 268 с.

[11] Гланц С. Медико-биологическая статистика. М.: "Практика", 1998. - 459 с.