Главная // Актуальные документы // Приказ
СПРАВКА
Источник публикации
Ростов-на-Дону: Росгидромет, ФГБУ "ГХИ", 2014
Примечание к документу
Действие данного документа продлено до 01.09.2028 Приказом Росгидромета от 08.09.2021 N 299.

Документ утрачивал силу в связи с истечением срока действия.

Документ введен в действие со 02.02.2015.
Название документа
"Р 52.24.819-2014. Рекомендации. Оценка антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей"
(введены в действие Приказом Росгидромета от 17.12.2014 N 684)

"Р 52.24.819-2014. Рекомендации. Оценка антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей"
(введены в действие Приказом Росгидромета от 17.12.2014 N 684)


Содержание


Утверждены
Заместителем Руководителя
Росгидромета
21 ноября 2014 года
Введены в действие
Приказом Росгидромета
от 17 декабря 2014 г. N 684
РЕКОМЕНДАЦИИ
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ НА РЕЧНЫЕ ЭКОСИСТЕМЫ С УЧЕТОМ
ИХ РЕГИОНАЛЬНЫХ ОСОБЕННОСТЕЙ
Р 52.24.819-2014
Дата введения
2 февраля 2015 года
Срок действия
до 3 февраля 2020 года
Предисловие
1 РАЗРАБОТАНЫ Федеральным государственным бюджетным учреждением "Гидрохимический институт" (ФГБУ "ГХИ")
2 РАЗРАБОТЧИКИ А.М. Никаноров, д-р геол.-минер. наук; В.А. Брызгало, канд. хим. наук; Л.С. Косменко, канд. хим. наук; О.С. Решетняк, канд. геогр. наук; А.О. Даниленко, канд. биол. наук; М.Ю. Кондакова, канд. биол. наук
3 СОГЛАСОВАНЫ с Федеральным государственным бюджетным учреждением "Научно-производственное объединение "Тайфун" (ФГБУ "НПО "Тайфун") 16.10.2014 и Управлением мониторинга загрязнения окружающей среды, полярных и морских работ (УМЗА) Росгидромета 20.11.2014
4 УТВЕРЖДЕНЫ Заместителем Руководителя Росгидромета 21.11.2014
ВВЕДЕНЫ В ДЕЙСТВИЕ приказом Росгидромета от 17.12.2014 N 684
5 ЗАРЕГИСТРИРОВАНЫ ФГБУ "НПО "Тайфун" от 02.24.2014 за номером Р 52.24.819-2014
6 ВВЕДЕНЫ ВПЕРВЫЕ
7 СРОК ПЕРВОЙ ПРОВЕРКИ 2020 год
ПЕРИОДИЧНОСТЬ ПРОВЕРКИ 5 ЛЕТ
1 Область применения
Настоящие рекомендации устанавливают подходы к оценке антропогенной нагрузки по показателям доли антропогенного воздействия и/или притока химических веществ на речные экосистемы с учетом их региональных особенностей, необходимой для совершенствования режимного и оперативного мониторинга, типизации объектов водного фонда, прогнозирования качества поверхностных вод и решения других практических задач.
Рекомендации предназначены для оперативно-производственных подразделений Росгидромета, осуществляющих наблюдения за изменчивостью химико-биологического состояния поверхностных вод суши в рамках Государственной службы наблюдений за состоянием окружающей среды (ГСН), для подразделений соответствующих министерств и ведомств, в задачи которых входит своевременное предупреждение о возможной экологической угрозе на контролируемых водных объектах, а также для научно-исследовательских организаций, занимающихся вопросами оценки и прогнозирования последствий антропогенного воздействия на речные экосистемы.
2 Нормативные ссылки
В настоящих рекомендациях использованы ссылки на следующие нормативные документы:
РД 52.24.309-2011 Организация и проведение режимных наблюдений за состоянием и загрязнением поверхностных вод суши
РД 52.24.508-96 Методические указания. Организация и функционирование подсистемы мониторинга состояния трансграничных поверхностных вод суши
РД 52.24.622-2001 Методические указания. Проведение расчетов фоновых концентраций химических веществ в воде водотоков
РД 52.24.633-2002 Методические указания. Методические основы создания и функционирования подсистемы мониторинга экологического регресса пресноводных экосистем
РД 52.24.643-2002 Методические указания. Метод комплексной оценки степени загрязненности поверхностных вод по гидрохимическим показателям
Р 52.24.661-2004 Оценка риска антропогенного воздействия приоритетных загрязняющих веществ на поверхностные воды суши
Р 52.24.776-2012 Оценка антропогенной нагрузки и риска воздействия на устьевые области рек с учетом их региональных особенностей
Примечание - При пользовании настоящих рекомендаций целесообразно проверять действие ссылочных нормативных документов.
3 Термины, определения и сокращения
3.1 В настоящих рекомендациях применяются следующие термины с соответствующими определениями:
3.1.1 абиотическая компонента: Абиотическая среда, представляющая совокупность неорганических условий (факторов) обитания организмов [1].
3.1.2 антропогенная нагрузка: Степень антропогенно-техногенного воздействия на отдельные компоненты природной среды или в целом на ландшафт [1].
3.1.3 вариационный ряд: Совокупность значений варьирующего признака и соответствующих им численностей единиц совокупности [2].
3.1.4 величина интервала (интервальная разность): Разность между верхними и нижними границами интервала [2].
3.1.5 воздействие антропогенное: Влияние человека и его деятельности на окружающую природную среду [3].
3.1.6 интервал: Границы значений варьирующего признака [2].
3.1.7
загрязненность вод: Содержание загрязняющих воду веществ, микроорганизмов и тепла, вызывающее нарушение требований к качеству воды.
[ГОСТ 27065-86, статья 15]
3.1.8
качество воды: Характеристика состава и свойств воды, определяющая пригодность ее для конкретных видов водопользования.
[ГОСТ 17.1.1.01-77, статья 4]
3.1.9 классификация степени загрязненности воды водных объектов: Условное разделение всего диапазона состава и свойств воды водных объектов в условиях антропогенного воздействия с постепенным переходом от "условно чистой" до "экстремально грязной" по значениям комбинаторного индекса загрязненности воды с учетом ряда дополнительных факторов (РД 52.24.643).
3.1.10 критерий: Признак, на основании которого проводятся оценка состояния природного объекта или его свойств (например, качества вод, трофности, благополучия, функционирования водной экосистемы и др.); классификация объектов, явлений, свойств [4].
3.1.11 критические показатели загрязненности воды; КПЗ: Ингредиенты или показатели загрязненности воды, которые обуславливают перевод воды по степени загрязненности в класс "очень грязная" и "экстремально грязная" на основании значения рассчитываемого по каждому ингредиенту оценочного балла, учитывающего одновременно значения наблюдаемых концентраций и частоту их обнаружения (РД 52.24.643).
3.1.12 модальный интервал: Интервал, включающий наиболее часто встречающиеся величины в данном вариационном ряду [2].
3.1.13
объем стока: Объем воды, стекающей с водосбора за какой-либо интервал времени
[ГОСТ 19179-73, статья 59]
3.1.14
река: Водоток значительных размеров, питающийся атмосферными осадками со своего водосбора и имеющий четко выраженное русло.
[ГОСТ 19179-73, статья 21]
3.1.15
речная система: Совокупность рек, сливающихся вместе и выносящих свои воды в виде общего потока.
[ГОСТ 19179-73, статья 23]
3.1.16
состояние водного объекта: Характеристика водного объекта по совокупности его количественных и качественных показателей применительно к видам водопользования.
Примечание. К количественным и качественным показателям относятся: расход воды, скорость течения, глубина водного объекта, температура воды, pH, БПК и др.
[ГОСТ 17.1.1.01-77, статья 45]
3.2 В настоящих рекомендациях введены и применены следующие сокращения:
- БПК5 - биохимическое потребление кислорода;
- ГСН - государственная служба наблюдений за состоянием окружающей среды;
- ЛООВ - легкоокисляемые органические вещества;
- ПДК - предельно допустимая концентрация;
- УКИЗВ - удельный комбинаторный индекс загрязненности воды.
4 Общие положения по оценке антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей
4.1 Возрастающие темпы хозяйственной деятельности человека обусловливают необходимость оценки антропогенной нагрузки на различные геосистемы (объекты окружающей среды) с учетом всей совокупности возможного вредного воздействия различных факторов и природной специфики объектов (региональных особенностей).
Допустимой будет считаться такая антропогенная нагрузка, при которой отклонение системы от нормального естественного состояния не приводит к нарушению природных устойчивых биогеохимических связей в экосистемах и не ухудшает качество среды.
4.2 При оценке антропогенной нагрузки на речные экосистемы необходимо выявить границы между областями их нормального функционирования и измененного (под влиянием какого-либо фактора воздействия). Это позволяет оценить различные состояния экосистемы от естественного до антропогенно трансформированного, при котором произошли существенные изменения в состоянии экосистемы.
4.3 Градации антропогенной нагрузки устанавливают по результатам оценки состояния речных экосистем в зависимости от степени их нарушенности, а также на основе выявления причинно-следственных связей между воздействием на биоту и ее откликом.
Согласно Р 52.24.661 и [1], [3] состояние речных экосистем можно условно разделить на:
- естественное - не нарушенное антропогенным воздействием;
- равновесное - скорость внутриводоемных биохимических процессов восстановления экосистемы превышает темпы антропогенных нарушений;
- кризисное - скорость внутриводоемных биохимических процессов восстановления экосистемы ниже темпов антропогенных нарушений;
- критическое - обратимая замена природных экологических систем на измененные по трофности, сапробности и биологической продуктивности пресноводные экосистемы;
- катастрофическое - необратимый процесс перехода пресноводных экосистем в новое состояние по трофности, сапробности и биологической продуктивности.
4.4 Классификаторы оценки антропогенной нагрузки на речные экосистемы разработаны на основе систематизации многолетней режимной информации ГСН о состоянии речных экосистем России, позволяющей учесть все многообразие региональных особенностей их формирования и функционирования.
В перечень показателей, по которым проводится оценка изменчивости состояния речных экосистем, включены такие гидрохимические показатели, как содержание растворенного в воде кислорода, азот аммонийный, биохимическое потребление кислорода (БПК5), нефтепродукты, которые удовлетворяют требованиям интегральности, неспецифичности отклика на воздействие, минимизации затрат на измерение, надежности определения [5].
Оценка изменчивости состояния речных экосистем дает возможность выявить интервалы колебания показателей, превышение которых приводит к переходу экосистемы в другое состояние. Градации состояния речных экосистем приведены в 4.3.
Экосистемы, функционирующие в разных состояниях, испытывают разную по уровню антропогенную нагрузку.
Антропогенная нагрузка на различных участках реки в основном обусловливается поступлением химических веществ с речным стоком с расположенных выше участков.
4.5 Оценку антропогенной нагрузки по длине реки проводят на основе анализа многолетней гидрологической и гидрохимической информации ГСН на пунктах режимных наблюдений.
Участки реки выбирают с учетом наличия стационарных пунктов режимных наблюдений ГСН, неравномерности антропогенного воздействия и различных физико-географических условий функционирования речных экосистем.
Корректировка выбора участков реки для оценки антропогенной нагрузки может быть проведена на основе анализа многолетней режимной информации согласно РД 52.24.633, РД 52.24.643, Р 52.24.661, Р 52.24.776 с учетом оценки:
а) степени загрязненности и изменчивости компонентного состава водной среды на различных участках по длине реки;
б) изменчивости биотических показателей состояния речных экосистем на отдельных участках реки;
в) изменчивости состояния речных экосистем на различных участках реки.
4.6 Оценку антропогенной нагрузки проводят по показателю доли антропогенного воздействия (определяемому за каждый год по формуле расчета коэффициента комплексности согласно РД 52.24.643 и Р 52.24.661), либо по значениям модуля притока химических веществ (азот аммонийный, легкоокисляемые органические вещества (ЛООВ), определяемые по БПК5 воды, и нефтепродукты).
Доля антропогенного воздействия имеет экологический смысл, оценивает участие антропогенной составляющей в формировании компонентного состава водной среды (Р 52.24.776) и рассчитывается как коэффициент комплексности воды при расчете удельного комбинаторного индекса загрязненности воды (УКИЗВ) (РД 52.24.643). Антропогенная нагрузка, определяемая по доле антропогенного воздействия, обуславливается, в основном, загрязняющими веществами.
Оценка антропогенной нагрузки по значениям модуля притока химических веществ (азот аммонийный, ЛООВ (по БПК5 воды) и нефтепродукты) учитывает вклад органических и биогенных веществ в химический состав воды.
Характер изменчивости объемов притока растворенных химических веществ на различные участки реки дает возможность оценить трансформацию антропогенной нагрузки по длине исследуемого водотока.
Условно антропогенная нагрузка может быть "малой", "умеренной", "критической", "высокой" или "очень высокой" (Р 52.24.776).
4.7 Для выбранных участков рек проводят расчет доли антропогенного воздействия согласно Р 52.24.661, объемов и модулей притока химических веществ и оценку антропогенной нагрузки на конкретных участках реки.
Это позволит выявить закономерности (тенденции) изменчивости антропогенной нагрузки по длине реки и ранжировать водные экосистемы по степени испытываемой антропогенной нагрузки.
4.8 При оценке антропогенной нагрузки на речные экосистемы используют такие характеристики, как:
а) модальный интервал значений показателей, используемых при оценке состояния и антропогенной нагрузки;
б) кратность превышения предельно допустимых концентраций (ПДК) загрязняющих веществ;
в) диапазон максимальных значений модулей притока растворенных химических веществ.
5 Оценка антропогенной нагрузки
5.1 Для оценки антропогенной нагрузки необходимо иметь:
а) многолетнюю режимную информацию об изменчивости гидрохимических показателей состояния участков реки, испытывающих принципиально разную антропогенную нагрузку;
б) многолетнюю режимную гидрологическую информацию об объеме стока за год (водном стоке) в пункте наблюдений;
в) классификаторы оценки антропогенной нагрузки на речные экосистемы.
5.2 Степень загрязненности водной среды определяют согласно РД 52.24.643 по методу комплексной оценки, который позволяет оценить загрязненность воды одновременно по перечню наиболее регулярно определяемых ингредиентов и показателей качества воды и классифицировать воду по степени ее загрязненности.
5.3 Оценку состояния экосистем выбранных участков реки проводят по изменчивости:
- модальных интервалов значений концентраций таких показателей, как растворенный кислород, БПК5 и азот аммонийный с использованием классификатора, приведенного в таблице 1 согласно Р 52.24.661, Р 52.24.776;
- структурной организации и уровня развития планктонных и бентосных сообществ водных организмов при наличии режимных гидробиологических наблюдений с использованием критериев, приведенных в РД 52.24.633, Р 52.24.661, Р 52.24.776.
Таблица 1
Классификатор состояния речных экосистем
Состояние экосистемы
Диапазоны модальных интервалов значений массовых концентраций, мг/дм3
минимальных значений растворенного кислорода
ЛООВ по БПК5
азота аммонийного
Естественное
Св. 6,0
От 0,5 до 1,0 включ.
Менее 0,1
Равновесное
От 4,0 до 6,0 включ.
От 1,0 до 2,0 включ.
От 0,1 до 0,5 включ.
Кризисное
От 2,0 до 4,0 включ.
От 2,0 до 4,0 включ.
От 0,5 до 1,0 включ.
Критическое
От 1,0 до 2,0 включ.
От 4,0 до 7,0 включ.
От 1,0 до 3,0 включ.
Катастрофическое
Менее 1,0
Св. 7,0
Св. 3,0
5.4 Оценку антропогенной нагрузки на основе значений доли антропогенного воздействия проводят в следующей последовательности.
5.4.1 Многолетние исследования показали обоснованность использования для оценки антропогенной нагрузки показателя доли антропогенного воздействия, значение которого определяют по результатам расчета УКИЗВ с использованием обязательного перечня наиболее регулярно определяемых 15 нормируемых показателей по РД 52.24.643.
Доля антропогенного воздействия, D, %, оценивает участие антропогенной составляющей в формировании компонентного состава абиотической части экосистемы. Данный показатель рассчитывают в соответствии с Р 52.24.661 по формуле
, (1)
где N1 - число ингредиентов, превышающих ПДК;
N - общее число нормируемых ингредиентов, используемых при расчете УКИЗВ (перечень нормируемых ингредиентов приведен в РД 52.24.643, пункт В.1).
Получают выборки значений показателя доли антропогенного воздействия для каждого участка реки. Полученные выборки должны быть достаточно большими (не менее 6 лет) и, предпочтительно, статистически однородными.
5.4.2 Выделяют модальный интервал значений доли антропогенного воздействия и оценивают антропогенную нагрузку по критериям, приведенным в таблице 2. Один из способов установления модальных интервалов приведен в приложении А.
Таблица 2
Классификатор оценки антропогенной нагрузки на речные
экосистемы по доле антропогенного воздействия
Антропогенная нагрузка
Модальный интервал значений доли антропогенного воздействия, %
Малая
Менее 30
Умеренная
От 30 до 45 включ.
Критическая
От 45 до 55 включ.
Высокая
От 55 до 70 включ.
Очень высокая
Св. 70
5.5 Оценку антропогенной нагрузки по модулю притока химических веществ проводят в следующей последовательности.
5.5.1 Количество перенесенного вещества за расчетный период, G, тыс. тонн, рассчитывают прямым методом в соответствии с РД 52.24.508 по формуле
, (2)
где m - число интервалов расчетного периода;
W1 - объем стока воды за i-й интервал расчетного периода, км3;
- средняя концентрация вещества за i-й интервал расчетного периода, мг/дм3.
Изменение содержания в водной среде ЛООВ, азота аммонийного, нефтепродуктов оказывает негативное воздействие, способное вызвать нарушение структурно-функциональных характеристик сообществ водных организмов и ухудшение состояния экосистемы в целом.
5.5.2 Рассчитывают значения модуля притока химических веществ на конкретный участок реки за каждый год.
Модуль притока растворенных химических веществ, M, т/км2, определяют по формуле
(3)
где F - площадь водосбора, тыс. км2.
Получают вариационные ряды значений модуля притока нефтепродуктов, азота аммонийного и ЛООВ (по БПК5) и выделяют их модальные интервалы (см. приложение А). Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.
Таблица 3
Классификатор оценки антропогенной нагрузки на речные
экосистемы по модулю притока растворенных химических веществ
Антропогенная нагрузки
Интервал максимальных значений модуля притока, т/км2 в год
азота аммонийного
ЛООВ (по БПК5)
нефтепродуктов
Малая
Менее 0,05
Менее 0,50
Менее 0,05
Умеренная
От 0,05 до 0,10 включ.
От 0,50 до 1,00 включ.
От 0,05 до 0,10 включ.
Критическая
От 0,10 до 0,20 включ.
От 1,00 до 1,50 включ.
От 0,10 до 0,30 включ.
Высокая
От 0,20 до 0,30 включ.
От 1,50 до 2,00 включ.
От 0,30 до 0,50 включ.
Очень высокая
Св. 0,30
Св. 2,00
Св. 0,50
Использование модуля притока химических веществ позволяет сравнивать антропогенную нагрузку на отдельных участках реки с различными объемами водного стока и площадями водосбора.
5.6 Оценка антропогенной нагрузки по длине водотока, как по показателю доли антропогенного воздействия, так и по модулю притока химических веществ, проводится в следующей последовательности.
Формируют выборки значений доли антропогенного воздействия и модулей притока химических веществ за каждый год за одинаковые временные интервалы для каждого пункта.
Проверяют статистическую однородность выборок значений показателя для каждого пункта как показано в приложении Б.
Оценивают наличие или отсутствие статистически значимых изменений антропогенной нагрузки между ближайшими пунктами, что позволяет оценить изменчивость антропогенной нагрузки по длине водотока. В случае отсутствия таких изменений делают вывод о равномерной антропогенной нагрузке на исследуемый участок водотока. Если пункты охватывают весь водоток и антропогенная нагрузка от истока к устью статистически значимо не меняется, антропогенную нагрузку на весь водоток считают равномерной.
Об усилении антропогенной нагрузки по длине водотока судят по увеличению среднего арифметического в случае однородных выборок или медианы в случае неоднородных выборок значений показателей доли антропогенного воздействия и/или модуля притока химических веществ в ближайших друг к другу пунктах, если наоборот - о снижении антропогенной нагрузки на исследуемом участке.
5.7 Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.
Результаты практического использования алгоритма проведения оценки антропогенной нагрузки на основе значений доли антропогенного воздействия приведены на примере отдельных участков р. Дон в приложении Г, по значениям модуля притока химических веществ - в приложении Д.
Приложение А
(рекомендуемое)
ВЫДЕЛЕНИЕ МОДАЛЬНОГО ИНТЕРВАЛА ЗНАЧЕНИЙ ПОКАЗАТЕЛЕЙ
Выделение модального интервала значений показателей, используемых при оценке состояния речных экосистем и антропогенной нагрузки проводится в следующей последовательности:
А.1 Ранжирование вариационных рядов значений показателей.
А.2 Подсчет объема выборки (количество значений показателя) n и вычисление среднего арифметического . Перед расчетом среднего арифметического из рядов значений показателей должны быть удалены аномально высокие или низкие значения, появление которых может быть связано только с грубыми ошибками при получении информации согласно РД 52.24.622.
А.3 Группировка значений вариационного ряда осуществляется на основе использования стандартного отклонения, , как оптимальной ширины интервала. Расчет шага группировки значений проводится по формуле А.1, либо по формуле А.2
при n > 30, (А.1)
при n < 30, (А.2)
где Xi - i-ое значение показателя выборки,
- среднее арифметическое значений показателя выборки,
n - количество значений показателя в выборке.
Полученное значение принимается как шаг группировки данных.
А.4 Определение границ интервалов (минимальная и максимальная) вариационного ряда. Границы интервалов приводятся с точностью на один разряд больше, чем значение показателя (то есть, если значение показателя определено с точностью до 0,1, границы интервалов приводятся с точностью до 0,01).
Минимальная граница первого интервала Int1min равна наименьшему значению выборки Xmin согласно формуле
Int1min = Xmin. (А.3)
Для получения максимальной границы первого интервала Int1max к его минимальной границе прибавляется стандартное отклонение по формуле
. (А.4)
Минимальная граница второго интервала Int2min отличается от максимальной первого интервала на величину mint и рассчитывается по формуле
. (А.5)
Определение границ интервалов осуществляется до тех пор, пока максимальная граница очередного интервала не превысит максимальное значение показателя в выборке.
А.5 Распределение значений показателей по установленным интервалам.
Интервал, в который попадает наибольшее количество значений, является модальным. Для оценки его границ используют фактическое минимальное и максимальное значения показателя, вошедшие в расчетные границы модального интервала. Для удобства выделения модального интервала ряд распределения представляют графически в виде гистограммы частостей, где по оси абсцисс откладывают значения границ интервалов и на их основании стоят прямоугольники, высота которых пропорциональна частостям.
Пример - Вариационный ряд значений концентрации азота аммонийного в водной среде р. Дон (г. Константиновск) за период с 1980 по 2012 годы состоит из 119 значений от 0 до 0,55 мг/дм3. Рассчитанное стандартное отклонение составляет 0,12 мг/дм3. Используя его в качестве шага группировки данных, получаем пять интервалов с границами в соответствии с таблицей А.1.
В первый интервал с расчетными границами от 0 до 0,120 мг/дм3 попадает наибольшее количество значений (66 из 119 или 55,5%). Минимальная концентрация азота аммонийного, попавшая в него, равна 0 мг/дм3, максимальная - 0,12 мг/дм3. Таким образом, найденный модальный интервал для азота аммонийного составляет от 0 до 0,12 мг/дм3 и включает в себя 55,5% всех значений вариационного ряда.
Таблица А.1
Распределение значений концентрации азота аммонийного
по интервалам (р. Дон, г. Константиновск)
Номер интервала
1
2
3
4
5
Расчетные границы интервалов вариационного ряда, мг/дм3
0 - 0,120
0,121 - 0,241
0,242 - 0,362
0,363 - 0,483
0,484 - 0,604
Фактические границы интервалов, мг/дм3
0 - 0,12
0,13 - 0,24
0,25 - 0,34
0,40 - 0,48
0,49 - 0,55
Число значений показателя в интервале
66
32
14
5
2
Пример гистограммы частостей концентраций азота аммонийного в воде р. Дон на участке у г. Константиновск показан на рисунке А.1.
Рисунок А.1 - Гистограммы частостей концентраций азота
аммонийного в воде р. Дон (г. Константиновск)
Приложение Б
(обязательное)
ОПРЕДЕЛЕНИЕ СТАТИСТИЧЕСКОЙ ОДНОРОДНОСТИ ВЫБОРОК ЗНАЧЕНИЙ
ПОКАЗАТЕЛЕЙ ДЛЯ ОЦЕНКИ АНТРОПОГЕННОЙ НАГРУЗКИ
Оценку антропогенной нагрузки проводят по таким показателям, как доля антропогенного воздействия и/или модуль притока химических веществ. Определение статистической однородности рядов значений показателей для оценки антропогенной нагрузки приводится на примере доли антропогенного воздействия и проводится в следующей последовательности.
Б.1 Для каждого пункта наблюдений составляют рабочую таблицу на основе данных по программе расчета данных УКИЗВ, включающую степень загрязненности и значение доли антропогенного воздействия, D, за каждый год (таблица Б.1). Ряды наблюдений должны быть достаточно большими (не менее 6 лет), а выборки значений доли антропогенного воздействия, предпочтительно, статистически однородными.
Таблица Б.1
Характеристики загрязненности воды различных участков реки
Год
Участок реки (пункт наблюдений А)
Участок реки (пункт наблюдений Б)
Степень загрязненности воды
Доля антропогенного воздействия, %
Степень загрязненности воды
Доля антропогенного воздействия, %
Б.2 Проверка статистической однородности выборок значений показателя доли антропогенного воздействия для каждого участка реки.
Для оценки статистической однородности значений доли антропогенного воздействия проводят анализ полученной совокупности по коэффициенту вариации, CV, %, [6], который рассчитывают по формуле
(Б.1)
где - среднее арифметическое выборки значений доли антропогенного воздействия.
Среднее арифметическое и стандартное отклонение рассчитывают по общепринятым статистическим формулам (см. приложение А).
Оценку однородности выборок значений доли антропогенного воздействия по значению CV проводят по следующим градациям [7]:
- менее 17% - абсолютно однородная;
- от 17% до 35% - достаточно однородная;
- от 35% до 40% - недостаточно однородная;
- от 40% до 60% - неоднородная;
- свыше 60% - абсолютно неоднородная.
Б.3 Алгоритм анализа выборок значений доли антропогенного воздействия с различной степенью однородности представлен на рисунке Б.1.
Рисунок Б.1 - Схема анализа выборок с различной степенью
однородности
Б.4 Для дальнейшего анализа с применением t-критерия Стьюдента для парных зависимых выборок требуются абсолютно и достаточно однородные выборки.
Для недостаточно однородных и неоднородных выборок рекомендуется проанализировать выборку на наличие промахов (сильно отличающихся значений) и оценить CV выборки значений D после исключения промахов. Абсолютно неоднородные выборки анализируются с использованием критерия Вилкоксона для зависимых выборок.
Б.5 Наличие промахов в выборке значений D оценивают по критерию Ирвина [8]. Для этого выборку ранжируют от минимального значения к максимальному. Критерий определяют по формуле
(Б.2)
где Xn+1 и Xn - наибольшие значения показателя в выборке.
Затем сравнивается с табличным значением критерия, , приведенным в таблице В.1. Если объем выборки занимает промежуточное положение между приведенными в таблице В.1, используют критерий для большего n. Например, для анализа выборки, состоящей из 15 вариантов, применяют , рассчитанный для n = 20 (1,3 при p < 0,05 и 1,8 при p < 0,01). Рекомендуемый уровень значимости p < 0,05.
Если , то нулевая гипотеза не подтверждается, т.е. результат - ошибочный, и он должен быть исключен при дальнейшей обработке результатов наблюдений.
Б.6 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, однородные выборки значений доли антропогенного воздействия за идентичные временные интервалы сопоставляются с использованием t-критерия Стьюдента для парных зависимых наблюдений [9]. Нулевая гипотеза (H0) предполагает, что разница между генеральными параметрами сравниваемых совокупностей равна нулю и различия между наблюдаемыми показателями носят не систематический, а случайный характер. Альтернативная гипотеза (H1) предполагает, что между показателями в сравниваемых пунктах проявляются систематические статистически значимые отличия.
Для сравнения выборок необходимо рассчитать t-критерий Стьюдента для парных зависимых наблюдений, сравнить его с теоретическим табличным значением и сделать вывод о наличии или отсутствии статистически значимых отличий.
Вычисление значения критерия Стьюдента tфакт осуществляется по формуле
(Б.3)
где - среднее арифметическое разностей между соответствующими показателями (за один и тот же год) в сравниваемых пунктах;
- стандартная ошибка разностей показателей.
Среднее арифметическое разностей между соответствующими показателями вычисляется по формуле
(Б.4)
где n' - количество пар значений показателя,
xi, yi - значения показателя D в пунктах А и Б.
Стандартная ошибка разностей показателей вычисляется по формуле
(Б.5)
где Sd - стандартное отклонение выборки разностей показателей.
Стандартное отклонение выборки разностей показателей вычисляется по формуле
(Б.6)
где (n' - 1) - число степеней свободы, k для определения tтеор (см. таблицу В.2)
Значения t-критерия Стьюдента, tтеор при p < 0,05 для выборок объемом не более 20 лет приведены в таблице В.2. Рекомендуемый уровень значимости не ниже 0,1 < p < 0,05. Для выборок большего объема значения tтеор при различных уровнях значимости приведены в справочных таблицах [9], [10]. Если tфакт < tтеор, то нулевая гипотеза принимается, в противном случае принимается альтернативная.
Для оценки направления изменений сопоставляются средние арифметические значения выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение среднего арифметического показателя вышерасположенного по течению реки пункта превышает значение среднего арифметического нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.
Б.7 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, неоднородные и абсолютно неоднородные выборки значений показателей за идентичные временные интервалы сопоставляются с использованием критерия Вилкоксона для парных зависимых наблюдений [11]. Нулевая гипотеза (H0) предполагает, что различия между наблюдаемыми показателями носят случайный характер, а альтернативная (H1) - систематический характер.
Рабочая таблица (таблица Б.6) при использовании критерия Вилкоксона заполняется следующим образом:
а) для каждого года вычисляют величину изменения показателя (di) между пунктом А (xi) и пунктом Б (yi). Пары наблюдений, которым соответствует нулевое изменение, следует исключить из анализа, соответственно уменьшив на единицу объем выборки;
б) вычисленные изменения упорядочивают по возрастанию их абсолютной величины (без учета знака) и нумеруют так, чтобы наименьшая разность получила первый ранг, R. Одинаковым по величине разностям присваивают один и тот же ранг, вычисленный как среднее тех мест, которые они занимают в упорядоченном ряду;
в) полученным рангам присваивают знак в соответствии с направлением изменения и получают знаковый ранг (Rz) отрицательный при уменьшении и положительный при увеличении;
г) вычисляют сумму знаковых рангов Wфакт отдельно для положительных рангов и отдельно для отрицательных по формуле
(Б.7)
где n' - количество пар значений показателя;
Rz - знаковый ранг изменения показателей.
"Типичным сдвигом" считается сумма преобладающих по знаку рангов, "нетипичным сдвигом" - редких по знаку рангов.
д) меньшую из двух сумм разностей ("нетипичный сдвиг") без учета ее знака используют в качестве фактически установленной величины Wфакт. Сравнивают полученную величину Wфакт для принятого уровня значимости p и числа парных наблюдений n', которое берут без нулевых разностей, с критерием Wтеор, приведенным в таблице В.3. При Wфакт <= Wтеор принимается гипотеза H1, в противном случае - H0. Рекомендуемый уровень значимости не ниже p < 0,05.
ИС МЕГАНОРМ: примечание.
Нумерация таблиц дана в соответствии с официальным текстом документа.
Таблица Б.6
Пары значений показателя для расчета Wфакт
Год
Значение показателя
Разность значений показателя
Ранг изменения, R
Знаковый ранг, Rz
xi (в пункте А)
yi (в пункте Б)
Для количества пар наблюдений n' > 25 критические значения критерия Вилкоксона можно определить по формуле
(Б.8)
где n' - количество пар значений показателей,
q - величина, зависящая от принятого уровня значимости p (при p < 0,05 q = 1,96, при p < 0,01 q = 2,58) [9].
Б.8 Согласуясь с результатами применения t-критерия Стьюдента или критерия Вилкоксона, делают вывод о наличии или отсутствии статистически значимых изменений показателей, по которым определяют антропогенную нагрузку, между ближайшими пунктами по длине водотока. В случае отсутствия таких изменений делают вывод о равной антропогенной нагрузке на исследуемый участок.
Для оценки направления изменений сопоставляются значения медианы выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение медианы показателя вышерасположенного по течению реки пункта превышает значение медианы нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.
Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.
Приложение В
(справочное)
ТАБЛИЧНЫЕ ЗНАЧЕНИЯ КРИТЕРИЕВ, ИСПОЛЬЗУЕМЫХ
ПРИ СТАТИСТИЧЕСКОЙ ОБРАБОТКЕ ДАННЫХ
Таблица В.1
Теоретические значения критерия Ирвина 
для различных уровней значимости p
Количество значений показателя в выборке, n
Критерий при уровне значимости p
менее 0,05
менее 0,01
1
2,0
3,0
2
2,8
3,7
3
2,2
2,9
10
1,5
2,0
20
1,3
1,8
30
1,2
1,7
50
1,1
1,6
Таблица В.2
Теоретические значения критерия tтеор для различных уровней
значимости p и числа степеней свободы k [10]
k
p менее
0,2
0,1
0,05
0,02
0,01
0,005
0,002
0,001
3
1,6377
2,35340
3,182
4,540
5,840
7,458
10,214
12,924
4
1,5332
2,13180
2,776
3,746
4,604
5,597
7,173
8,610
5
1,4759
2,01500
2,570
3,649
4,0321
4,773
5,893
6,863
6
1,4390
1,943
2,4460
3,1420
3,7070
4,316
5,2070
5,958
7
1,4149
1,8946
2,3646
2,998
3,4995
4,2293
4,785
5,4079
8
1,3968
1,8596
2,3060
2,8965
3,3554
3,832
4,5008
5,0413
9
1,3830
1,8331
2,2622
2,8214
3,2498
3,6897
4,2968
4,780
10
1,3720
1,8125
2,2281
2,7638
3,1693
3,5814
4,1437
4,5869
11
1,363
1,795
2,201
2,718
3,105
3,496
4,024
4,437
12
1,3562
1,7823
2,1788
2,6810
3,0845
3,4284
3,929
4,178
13
1,3502
1,7709
2,1604
2,6503
3,1123
3,3725
3,852
4,220
14
1,3450
1,7613
2,1448
2,6245
2,976
3,3257
3,787
4,140
15
1,3406
1,7530
2,1314
2,6025
2,9467
3,2860
3,732
4,072
16
1,3360
1,7450
2,1190
2,5830
2,9200
3,2520
3,6860
4,0150
17
1,3334
1,7396
2,1098
2,5668
2,8982
3,2224
3,6458
3,965
18
1,3304
1,7341
2,1009
2,5514
2,8784
3,1966
3,6105
3,9216
19
1,3277
1,7291
2,0930
2,5395
2,8609
3,1737
3,5794
3,8834
20
1,3253
1,7247
2,08600
2,5280
2,8453
3,1534
3,5518
3,8495
Таблица В.3
Теоретические значения критерия Вилкоксона Wтеор
(двусторонний критерий) при p < 0,05
Число пар наблюдений
Wтеор
6
1
7
3
8
5
9
7
10
9
11
12
12
15
13
18
14
22
15
26
16
31
17
36
18
41
19
47
20
53
21
60
22
67
23
74
24
82
25
90
Приложение Г
(справочное)
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ ПО ДЛИНЕ РЕКИ ДОН НА ОСНОВЕ
ЗНАЧЕНИЙ ДОЛИ АНТРОПОГЕННОГО ВОЗДЕЙСТВИЯ
Г.1 Для оценки антропогенной нагрузки на различные участки р. Дон выбраны пункты: г. Константиновск, ст. Раздорская и г. Ростов-на-Дону. Характеристики пунктов наблюдений приведены в таблице Г.1. Для анализа использована информация за период с 1999 по 2012 годы.
Таблица Г.1
Характеристики пунктов наблюдений по длине р. Дон
Пункт наблюдений
Расстояние от устья, км
Площадь водосбора, тыс. км2
г. Константиновск
207
257
ст. Раздорская
151
378
г. Ростов-на-Дону
44
421
Г.2 Производится расчет значений доли антропогенного воздействия за каждый год в пунктах наблюдений. Рассчитанные значения показателя приведены в таблицах Г.2 - Г.4.
Таблица Г.2
Характеристики качества воды р. Дон
в пункте г. Константиновск
Год
Степень загрязненности воды
Количество ингредиентов
Доля антропогенного воздействия, %
учитываемых при расчете УКИЗВ
концентрации которых превышают ПДК
1999
Очень загрязненная
11
5
45
2000
Загрязненная
11
4
36
2001
Загрязненная
11
4
36
2002
Загрязненная
12
4
33
2003
Загрязненная
13
6
46
2004
Загрязненная
13
6
46
2005
Загрязненная
13
6
46
2006
Загрязненная
13
6
46
2007
Загрязненная
13
5
38
2008
Очень загрязненная
13
7
54
2009
Загрязненная
13
6
46
2010
Загрязненная
13
6
46
2011
Загрязненная
13
6
46
2012
Загрязненная
13
5
38
Среднее арифметическое значение показателя
43,0
Таблица Г.3
Характеристики качества воды р. Дон в пункте ст. Раздорская
Год
Степень загрязненности воды
Количество ингредиентов
Доля антропогенного воздействия, %
учитываемых при расчете УКИЗВ
концентрации которых превышают ПДК
1999
Грязная
11
7
64
2000
Загрязненная
11
5
45
2001
Слабо загрязненная
11
4
36
2002
Загрязненная
12
6
50
2003
Очень загрязненная
13
7
54
2004
Очень загрязненная
13
7
54
2005
Очень загрязненная
13
6
46
2006
Загрязненная
13
6
46
2007
Загрязненная
13
6
46
2008
Очень загрязненная
13
8
62
2009
Очень загрязненная
13
7
54
2010
Загрязненная
13
6
46
2011
Загрязненная
13
6
46
2012
Загрязненная
13
5
38
Среднее арифметическое значение показателя
49,1
Таблица Г.4
Характеристики качества воды р. Дон
в пункте г. Ростов-на-Дону
Год
Степень загрязненности воды
Количество ингредиентов
Доля антропогенного воздействия, %
учитываемых при расчете УКИЗВ
концентрации которых превышают ПДК
1999
Грязная
12
9
75
2000
Грязная
12
7
58
2001
Грязная
13
9
69
2002
Грязная
12
7
58
2003
Грязная
12
9
75
2004
Грязная
12
6
50
2005
Грязная
12
6
50
2006
Очень загрязненная
12
7
58
2007
Грязная
13
7
54
2008
Грязная
13
9
69
2009
Очень загрязненная
13
9
69
2010
Очень загрязненная
13
9
69
2011
Грязная
13
9
69
2012
Грязная
13
8
62
Среднее арифметическое значение показателя
63,2
Г.3 Анализ на однородность для каждой выборки рассчитанных значений доли антропогенного воздействия проводят по коэффициенту вариации, по величине которого делается заключение о степени однородности согласно приложению Б.
Результаты анализа на однородность выборок значений показателя доли антропогенного воздействия на разных участках по длине р. Дон представлены в таблице Г.5.
Таблица Г.5
Характеристика выборок значений доли антропогенного
воздействия на разных участках р. Дон
Пункт наблюдений
Среднее арифметическое значений D, %
Стандартное отклонение, %
Коэффициент вариации, %
Степень однородности выборки
г. Константиновск
43,0
+/- 5,8
13,4
Абсолютно однородная
ст. Раздорская
49,1
+/- 7,9
18,5
Достаточно однородная
г. Ростов-на-Дону
63,2
+/- 8,6
20,0
Достаточно однородная
Г.4 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по доле антропогенного воздействия выделяют модальный интервал значений показателя, сравнивают его с критериями, приведенными в таблице 2 и делают вывод о нагрузке.
По длине р. Дон антропогенная нагрузка меняется от умеренной до высокой (таблица Г.6).
Таблица Г.6
Антропогенная нагрузка по показателю доли антропогенного
воздействия на разных участках р. Дон
Пункт наблюдений
Модальный интервал значений доли антропогенного воздействия, %
Частость, %
Антропогенная нагрузка
г. Константиновск
От 45 до 46
57
Умеренная с переходом в критическую
ст. Раздорская
От 46 до 50
50
Критическая
г. Ростов-на-Дону
От 62 до 69
43
Высокая
Г.5 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов г. Константиновск и ст. Раздорская приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия абсолютно и достаточно однородны (таблица Г.5) для их сравнения используют t-критерий Стьюдента.
Согласно приложению Б необходимо рассчитать tфакт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета tфакт приведены в таблице Г.7.
Таблица Г.7
Промежуточные данные для расчета tфакт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары
Год
Значение показателя D в пункте
Разность значений показателя D
Квадрат разности значений показателя D
г. Константиновск (xi)
ст. Раздорская (yi)
1
1999
45
64
-19
167,15
2
2000
36
45
-9
8,58
3
2001
36
36
0
36,86
4
2002
33
50
-17
119,43
5
2003
46
54
-8
3,72
6
2004
46
54
-8
3,72
7
2005
46
46
0
36,86
8
2006
46
46
0
36,86
9
2007
38
46
-8
3,72
10
2008
54
62
-8
3,72
11
2009
46
54
-8
3,72
12
2010
46
46
0
36,86
13
2011
46
46
0
36,86
14
2012
38
38
0
36,86
Среднее значение разностей значений показателя D равно -6,07, сумма квадратов разностей значений показателя D составляет 534,93.
По данным, представленным в таблице Г.7, рассчитывают стандартную ошибку разностей значений D и стандартное отклонение выборки разностей значений D по формулам Б.5 и Б.6
Фактическое значение критерия, tфакт составляет
Теоретическое значение критерия, tтеор при уровне значимости p < 0,05 и числе степеней свободы k = 13: tтеор = 2,16 (см. таблицу В.2).
Таким образом, 3,54 > 2,16, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между г. Константиновск и ст. Раздорской испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. Поскольку среднее арифметическое значение доли антропогенного воздействия в пункте ст. Раздорская превышает аналогичную величину в пункте г. Константиновск, можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.
Г.6 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов ст. Раздорская и г. Ростов-на-Дону приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия достаточно однородны (таблица Г.5) для их сравнения используют t-критерий Стьюдента.
Согласно приложению Б необходимо рассчитать tфакт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета tфакт приведены в таблице Г.8.
Таблица Г.8
Промежуточные данные для расчета tфакт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары
Год
Значение показателя D в пункте
Разность значений показателя D
Квадрат разности значений показателя D
ст. Раздорская (xi)
г. Ростов-на-Дону (yi)
1
1999
64
75
-11
9,88
2
2000
45
58
-13
1,31
3
2001
36
69
-33
355,59
4
2002
50
58
-8
37,73
5
2003
54
75
-21
47,02
6
2004
54
50
4
329,16
7
2005
46
50
-4
102,88
8
2006
46
58
-12
4,59
9
2007
46
54
-8
37,73
10
2008
62
69
-7
51,02
11
2009
54
69
-15
0,73
12
2010
46
69
-23
78,45
13
2011
46
69
-23
78,45
14
2012
38
62
-24
97,16
Среднее значение разностей значений показателя D равно -14,14; сумма квадратов разностей значений показателя D составляет 1231,71. По данным, представленным в таблице Г.8, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 9,73 и 2,60, соответственно.
Фактическое значение критерия, tфакт составляет 5,43. Теоретическое значение критерия tтеор при уровне значимости p < 0,05 и числе степеней свободы k = 13 равно 2,16 (см. таблицу В.2).
Таким образом, 5,43 > 2,16, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между ст. Раздорской и г. Ростов-на-Дону испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. С учетом того, что значение среднего арифметического значений D в пункте г. Ростов-на-Дону превышает аналогичную величину в пункте ст. Раздорская можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.
Приложение Д
(рекомендуемое)
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ ПО ПОКАЗАТЕЛЮ МОДУЛЯ ПРИТОКА
ХИМИЧЕСКИХ ВЕЩЕСТВ ПО ДЛИНЕ РЕКИ ДОН
Д.1 Для оценки антропогенной нагрузки по модулю притока растворенных химических веществ на различные участки р. Дон выбраны те же пункты, что и в приложении В (см. таблицу В.1). Для оценки использована информация за период с 1999 по 2012 годы о содержании в водной среде азота аммонийного, ЛООВ (по БПК5) и нефтепродуктов, а также данные об объемах водного стока.
Д.2 Оценка антропогенной нагрузки по модулю притока растворенных химических веществ проводится в соответствии с 5.5.
Для расчета среднегодовых значений концентраций данные предварительно анализируют на наличие промахов согласно приложению Б.
Данные по значениям модулей притока химических веществ на пункты г. Константиновск, ст. Раздорская и г. Ростов-на-Дону приведены в таблицах Д.1 - Д.3.
Таблица Д.1
Модули притока растворенных химических веществ
в пункте г. Константиновск
Год
Модуль притока химических веществ, т/км2 в год
ЛООВ
азота аммонийного
нефтепродуктов
1999
0,246
-
0,014
2000
0,165
-
0,006
2001
0,109
-
0,003
2002
0,124
-
0,005
2003
0,132
0,010
0,006
2004
0,134
0,011
0,008
2005
0,269
0,010
0,009
2006
0,195
0,009
0,005
2007
0,146
0,014
0,002
2008
0,184
0,015
0,004
2009
0,154
0,018
0,003
2010
0,181
0,013
0,003
2011
0,121
0,004
0,002
2012
0,205
0,005
0,002
Примечание - Прочерк означает отсутствие данных, либо малое количество.
Таблица Д.2
Модули притока растворенных химических веществ
в пункте ст. Раздорская
Год
Модуль притока химических веществ, т/км2 в год
ЛООВ
азота аммонийного
нефтепродуктов
1999
0,150
-
0,008
2000
0,122
-
0,004
2001
0,081
-
0,004
2002
0,088
-
0,004
2003
0,130
0,013
0,005
2004
0,151
0,090
0,007
2005
0,237
0,010
0,008
2006
0,154
0,015
0,005
2007
0,128
0,013
0,006
2008
0,143
0,012
0,003
2009
0,126
0,019
0,003
2010
0,159
0,014
0,004
2011
0,103
0,005
0,002
2012
-
-
-
Примечание - Прочерк означает отсутствие данных, либо малое количество.
Таблица Д.3
Модули притока растворенных химических веществ
в пункте г. Ростов-на-Дону
Год
Модуль притока химических веществ, т/км2 в год
ЛООВ
азота аммонийного
нефтепродуктов
1999
0,177
0,020
0,006
2000
0,126
0,014
0,005
2001
0,141
0,010
0,006
2002
0,141
0,011
0,007
2003
0,191
0,007
0,006
2004
0,186
0,002
0,008
2005
0,245
0,004
0,012
2006
0,235
0,005
0,006
2007
0,122
0,005
0,004
2008
0,123
0,006
0,002
2009
0,096
0,005
0,002
2010
0,101
0,004
0,002
2011
0,192
0,006
0,003
2012
0,197
0,002
0,001
Д.3 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по модулю притока химических веществ выделяют модальный интервал значений показателя.
Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.
По длине р. Дон антропогенная нагрузка по притоку ЛООВ и нефтепродуктов оценивается как малая, а по притоку азота аммонийного колеблется от малой до умеренной (таблица Д.4).
Таблица Д.4
Антропогенная нагрузка по показателю модуля притока
химических веществ на разных участках р. Дон
Пункт наблюдений
Антропогенная нагрузка
ЛООВ
азота аммонийного
нефтепродуктов
г. Константиновск
Малая
Малая
Малая
ст. Раздорская
Малая
Малая с переходом в умеренную
Малая
г. Ростов-на-Дону
Малая
Малая
Малая
Д.4 Анализ на однородность выборок рассчитанных значений модулей притока химических веществ проводят для каждой выборки по коэффициенту вариации, по величине которого делается заключение о степени однородности выборки согласно приложению Б.
Результаты анализа представлены в таблице Д.5.
Таблица Д.5
Характеристика выборок значений модулей притока растворенных
химических веществ по длине р. Дон
Пункт наблюдений
Среднее арифметическое значений M, т/км2 в год
Стандартное отклонение выборки M, т/км2 в год
Коэффициент вариации, %
Степень однородности выборки
ЛООВ (по БПК5)
г. Константиновск
0,169
+/- 0,050
28
Достаточно однородная
ст. Раздорская
0,136
+/- 0,040
29
Достаточно однородная
г. Ростов-на-Дону
0,162
+/- 0,050
29
Достаточно однородная
Азот аммонийный
г. Константиновск
0,011
+/- 0,004
39
Недостаточно однородная
ст. Раздорская
0,012
+/- 0,004
35
Достаточно однородная
г. Ростов-на-Дону
0,007
+/- 0,005
69
Абсолютно неоднородная
Нефтепродукты
г. Константиновск
0,005
+/- 0,003
67
Абсолютно неоднородная
ст. Раздорская
0,005
+/- 0,002
41
Недостаточно однородная
г. Ростов-на-Дону
0,005
+/- 0,003
61
Абсолютно неоднородная
Д.5 Определение статистических критериев для сопоставления выборок на наличие или отсутствие статистически значимых отличий. Согласно данным, представленным в таблице Д.5, сравнение выборок значений модулей притока:
- ЛООВ следует осуществлять с применением t-критерия Стьюдента, поскольку выборки достаточно однородны;
- азота аммонийного в пункте г. Ростов-на-Дону и нефтепродуктов в пунктах г. Константиновск и г. Ростов-на-Дону абсолютно неоднородны, поэтому их сравнение должно осуществляться по критерию Вилкоксона;
- азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская недостаточно однородны для сравнения по критерию Стьюдента, поэтому для них проводится дополнительный анализ на наличие промахов согласно приложению Б, при исключении которых выборка данных может стать достаточно однородной. Результаты проверки выборок на наличие промахов значений приведены в таблице Д.6.
Таблица Д.6
Статистические характеристики проверки выборок значений
модулей притока химических веществ на наличие промахов
Статистические характеристики выборок значений концентраций
азота аммонийного (г. Константиновск)
нефтепродуктов (ст. Раздорская)
n = 10
n = 13
xn+1 = 0,018 мг/дм3
xn+1 = 0,008 мг/дм3
xn = 0,015 мг/дм3
xn = 0,008 мг/дм3
При уровне значимости p < 0,05 критерий при n = 10 равен 1,5, а при n = 13 равен 1,3 (используется критерий при n = 20, см. Б.5), следовательно, нулевая гипотеза об ошибочности результата и исключении крайней варианты из выборки не принимается ни в одном из рассмотренных случаев.
Таким образом, выборки значений модулей притока азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская не содержат промахов, которые можно было бы исключить, и считаются неоднородными. Статистический анализ такой выборки должен осуществляться с применением критерия Вилкоксона.
Д.6 Сопоставление выборок значений модулей притока химических веществ проводится с применением выбранных статистических критериев (см. Д.5) и алгоритму, приведенному в приложении Б.
Промежуточные данные расчета tфакт для сравнения выборок значений модулей притока ЛООВ в пунктах г. Константиновск и ст. Раздорская представлены в таблице Д.7; для пунктов ст. Раздорская и г. Ростов-на-Дону - в таблице Д.8.
Таблица Д.7
Промежуточные данные для расчета tфакт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары
Год
Значение модуля притока ЛООВ, т/км2 в год
Разность значений показателя
Квадрат разности значений показателя
г. Константиновск (xi)
ст. Раздорская (yi)
1
1999
0,246
0,150
0,096
0,00438
2
2000
0,165
0,122
0,043
0,00017
3
2001
0,109
0,081
0,028
0,00000
4
2002
0,124
0,088
0,036
0,00004
5
2003
0,132
0,130
0,002
0,00078
6
2004
0,134
0,151
-0,017
0,00219
7
2005
0,269
0,237
0,032
0,00000
8
2006
0,195
0,154
0,041
0,00012
9
2007
0,146
0,128
0,018
0,00014
10
2008
0,184
0,143
0,041
0,00012
11
2009
0,154
0,126
0,028
0,00000
12
2010
0,181
0,159
0,022
0,00006
13
2011
0,121
0,103
0,018
0,00014
14
2012
0,205
-
-
-
Примечание - Прочерк означает отсутствие данных, либо малое количество.
Таблица Д.8
Промежуточные данные для расчета tфакт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары
Год
Значение модуля притока ЛООВ, т/км2 в год
Разность значений показателя
Квадрат разности значений показателя
ст. Раздорская (xi)
г. Ростов-на-Дону (yi)
1
1999
0,150
0,177
-0,027
0,00001
2
2000
0,122
0,126
-0,004
0,00038
3
2001
0,081
0,141
-0,060
0,00134
4
2002
0,088
0,141
-0,053
0,00088
5
2003
0,130
0,191
-0,061
0,00141
6
2004
0,151
0,186
-0,035
0,00013
7
2005
0,237
0,245
-0,008
0,00024
8
2006
0,154
0,235
-0,081
0,00332
9
2007
0,128
0,122
0,006
0,00086
10
2008
0,143
0,123
0,020
0,00188
11
2009
0,126
0,096
0,030
0,00285
12
2010
0,159
0,101
0,058
0,00662
13
2011
0,103
0,192
-0,089
0,00431
14
2012
-
0,197
-
-
Примечание - Прочерк означает отсутствие данных, либо малое количество.
Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0299; сумма квадратов разностей значений показателя составляет 0,0082. По данным, представленным в таблице Д.7, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 0,0260 и 0,0072, соответственно.
Фактическое значение критерия, tфакт составляет 4,12. Теоретическое значение критерия tтеор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см. таблицу В.2).
Таким образом, 4,12 > 2,18, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает неравномерную антропогенную нагрузку по модулю притока ЛООВ.
С учетом того, что значение среднего арифметического значений модуля притока ЛООВ в пункте г. Константиновск (0,166 т/км2 в год) превышает аналогичную величину в пункте ст. Раздорская (0,136 т/км2 в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.
Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0233; сумма квадратов разностей значений показателя составляет 0,0242. По данным, представленным в таблице Д.8, рассчитанные по формулам Б.5 и Б.6 стандартная ошибка разностей значений модуля притока ЛООВ и стандартное отклонение выборки разностей значений показателя равны 0,0449 и 0,0124, соответственно.
Фактическое значение критерия, tфакт составляет 1,87. Теоретическое значение критерия tтеор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см. таблицу В.2).
Таким образом, 1,87 < 2,18, то есть tфакт < tтеор, следовательно, принимается нулевая гипотеза об отсутствии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает равномерную антропогенную нагрузку по модулю притока ЛООВ.
Д.7 Сопоставление выборок значений модулей притока азота аммонийного осуществляется с использованием критерия Вилкоксона (см. Д.5) согласно приложению Б.
Промежуточные данные расчета Wфакт для сравнения выборок значений модулей притока азота аммонийного в пунктах г. Константиновск и ст. Раздорская представлены в таблице Д.9; для пунктов ст. Раздорская и г. Ростов-на-Дону - в таблице Д.10.
Таблица Д.9
Промежуточные данные для расчета Wфакт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары
Год
Значение модуля притока азота аммонийного, т/км2 в год
Разность значений показателя
Ранг изменения, R
Знаковый ранг, Rz
г. Константиновск (xi)
ст. Раздорская (yi)
1
2003
0,010
0,013
0,003
5,5
5,5
2
2004
0,011
0,090
0,079
8
8
3
2005
0,010
0,010
0
-
-
4
2006
0,009
0,015
0,006
7
7
5
2007
0,014
0,013
-0,001
2,5
-2,5
6
2008
0,015
0,012
-0,003
5,5
-5,5
7
2009
0,018
0,019
0,001
2,5
2,5
8
2010
0,013
0,014
0,001
2,5
2,5
9
2011
0,004
0,005
0,001
2,5
2,5
Таблица Д.10
Промежуточные данные для расчета Wфакт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары
Год
Значение модуля притока азота аммонийного, т/км2 в год
Разность значений показателя
Ранг изменения, R
Знаковый ранг, Rz
ст. Раздорская (xi)
г. Ростов-на-Дону (yi)
1
2003
0,013
0,007
-0,006
3
-3
2
2004
0,090
0,002
-0,088
9
-9
3
2005
0,010
0,004
-0,006
3
-3
4
2006
0,015
0,005
-0,01
6,5
-6,5
5
2007
0,013
0,005
-0,008
5
-5
6
2008
0,012
0,006
-0,006
3
-3
7
2009
0,019
0,005
-0,014
8
-8
8
2010
0,014
0,004
-0,01
6,5
-6,5
9
2011
0,005
0,006
0,001
1
1
Согласно данным, приведенным в таблице Д.9, сумма положительных рангов ("типичный сдвиг") равна 28, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 8.
Согласно данным таблицы В.3 при p < 0,05 и n = 8 величина Wтеор составляет 5. Таким образом, 8 > 5, то есть Wфакт > Wтеор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает равномерную антропогенную нагрузку по данному показателю.
Согласно данным, приведенным в таблице Д.10, сумма положительных рангов ("типичный сдвиг") равна 1, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 16.
Согласно данным таблицы В.3 при p < 0,05 и n = 8 величина Wтеор составляет 5. Таким образом, 1 < 5, то есть Wфакт < Wтеор, следовательно, принимается альтернативная гипотеза о наличии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает неравномерную антропогенную нагрузку по данному показателю.
С учетом того, что медиана выборки значений модуля притока азота аммонийного в пункте ст. Раздорская (0,013 т/км2 в год) превышает аналогичную величину в пункте г. Ростов-на-Дону (0,005 т/км2 в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.
Д.8 Аналогично проводят сопоставление выборок значений модулей притока нефтепродуктов.
Согласно результатам, приведенным в таблице Д.11 р. Дон от пункта г. Константиновск до пункта ст. Раздорская испытывает равномерную антропогенную нагрузку по значениям модулей притока нефтепродуктов.
Таблица Д.11
Результаты сравнения выборок значений модулей притока
нефтепродуктов по длине р. Дон
Пункт 1
Пункт 2
Wфакт
n'
Wтеор
Уровень значимости
Принимаемая гипотеза
г. Константиновск
ст. Раздорская
17
10
9
p < 0,05
Различия статистически не значимы
ст. Раздорская
г. Ростов-на-Дону
45
13
18
p < 0,05
Различия статистически не значимы
Согласно данным таблицы В.3 при p < 0,05 и n = 10 величина Wтеор составляет 9. Таким образом, 17 > 5, то есть Wфакт > Wтеор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами г. Константиновск и ст. Раздорская. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.
Согласно данным таблицы В.3 при p < 0,05 и n = 13 величина Wтеор составляет 18. Таким образом, 45 > 8, то есть Wфакт > Wтеор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами ст. Раздорская и г. Ростов-на-Дону. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.
Библиография
[1] Хрусталев Ю.П. Эколого-географический словарь. - РГУ: Батайск, 2000. - 197 с.
[2] Венецкий И.Г., Венецкая В.И. Основные математико-статистические понятия и формулы в экономическом анализе. - М.: Статистика, 1979. - 440 с.
[3] Реймерс Н.Ф., Яблоков А.В. Словарь терминов и понятий, связанных с охраной живой природы. - М.: Наука, 1982. - 144 с.
[4] Дмитриев В.В., Фрумин Г.Т. Экологическое нормирование и устойчивость природных систем / Учебное пособие. - СПб.: Наука, 2004. - 294 с.
[5] Левич А.П., Булгаков Н.Г, Максимов В.Н. Теоретические и методические основы технологии регионального контроля природной среды по данным экологического мониторинга. - М.: НИА. - Природа, 2004. - 273 с.
[6] Сизова Т.М. Статистика: Учебное пособие. - СПб.: СПб ГУИТМО, 2005. - 80 с.
[7] Юдина А.В. Статистика: Учебное пособие. - Электронный учебник. Доступно по URL: http://abc.vvsu.ru/Books/statistika_up/default.asp
[8] Третьяк Л.Н. Обработка результатов наблюдений: Учебное пособие. - Оренбург: ГОУ ОГУ, 2004. - 171 с.
[9] Лакин Г.Ф. Биометрия: Учебное пособие для биол. спец. вузов - 4-е изд., перераб. и дополн. - М.: "Высшая школа", 1990. - 352 с.
[10] Дерффель. Статистика в аналитической химии. Под ред. Ю.П. Адлера. - М. "Мир", 1994. - 268 с.
[11] Гланц С. Медико-биологическая статистика. М.: "Практика", 1998. - 459 с.