Главная // Актуальные документы // ПриказСПРАВКА
Источник публикации
Ростов-на-Дону: Росгидромет, ФГБУ "ГХИ", 2014
Примечание к документу
Действие данного документа продлено до 01.09.2028
Приказом Росгидромета от 08.09.2021 N 299.
Документ утрачивал силу в связи с истечением
срока действия.
Документ
введен в действие со 02.02.2015.
Название документа
"Р 52.24.819-2014. Рекомендации. Оценка антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей"
(введены в действие Приказом Росгидромета от 17.12.2014 N 684)
"Р 52.24.819-2014. Рекомендации. Оценка антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей"
(введены в действие Приказом Росгидромета от 17.12.2014 N 684)
Заместителем Руководителя
Росгидромета
21 ноября 2014 года
Введены в действие
от 17 декабря 2014 г. N 684
РЕКОМЕНДАЦИИ
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ НА РЕЧНЫЕ ЭКОСИСТЕМЫ С УЧЕТОМ
ИХ РЕГИОНАЛЬНЫХ ОСОБЕННОСТЕЙ
Р 52.24.819-2014
Дата введения
2 февраля 2015 года
Срок действия
до 3 февраля 2020 года
1 РАЗРАБОТАНЫ Федеральным государственным бюджетным учреждением "Гидрохимический институт" (ФГБУ "ГХИ")
2 РАЗРАБОТЧИКИ А.М. Никаноров, д-р геол.-минер. наук; В.А. Брызгало, канд. хим. наук; Л.С. Косменко, канд. хим. наук; О.С. Решетняк, канд. геогр. наук; А.О. Даниленко, канд. биол. наук; М.Ю. Кондакова, канд. биол. наук
3 СОГЛАСОВАНЫ с Федеральным государственным бюджетным учреждением "Научно-производственное объединение "Тайфун" (ФГБУ "НПО "Тайфун") 16.10.2014 и Управлением мониторинга загрязнения окружающей среды, полярных и морских работ (УМЗА) Росгидромета 20.11.2014
4 УТВЕРЖДЕНЫ Заместителем Руководителя Росгидромета 21.11.2014
ВВЕДЕНЫ В ДЕЙСТВИЕ
приказом Росгидромета от 17.12.2014 N 684
5 ЗАРЕГИСТРИРОВАНЫ ФГБУ "НПО "Тайфун" от 02.24.2014 за номером Р 52.24.819-2014
6 ВВЕДЕНЫ ВПЕРВЫЕ
7 СРОК ПЕРВОЙ ПРОВЕРКИ 2020 год
ПЕРИОДИЧНОСТЬ ПРОВЕРКИ 5 ЛЕТ
Настоящие рекомендации устанавливают подходы к оценке антропогенной нагрузки по показателям доли антропогенного воздействия и/или притока химических веществ на речные экосистемы с учетом их региональных особенностей, необходимой для совершенствования режимного и оперативного мониторинга, типизации объектов водного фонда, прогнозирования качества поверхностных вод и решения других практических задач.
Рекомендации предназначены для оперативно-производственных подразделений Росгидромета, осуществляющих наблюдения за изменчивостью химико-биологического состояния поверхностных вод суши в рамках Государственной службы наблюдений за состоянием окружающей среды (ГСН), для подразделений соответствующих министерств и ведомств, в задачи которых входит своевременное предупреждение о возможной экологической угрозе на контролируемых водных объектах, а также для научно-исследовательских организаций, занимающихся вопросами оценки и прогнозирования последствий антропогенного воздействия на речные экосистемы.
В настоящих рекомендациях использованы ссылки на следующие нормативные документы:
РД 52.24.309-2011 Организация и проведение режимных наблюдений за состоянием и загрязнением поверхностных вод суши
РД 52.24.508-96 Методические указания. Организация и функционирование подсистемы мониторинга состояния трансграничных поверхностных вод суши
РД 52.24.622-2001 Методические указания. Проведение расчетов фоновых концентраций химических веществ в воде водотоков
РД 52.24.633-2002 Методические указания. Методические основы создания и функционирования подсистемы мониторинга экологического регресса пресноводных экосистем
РД 52.24.643-2002 Методические указания. Метод комплексной оценки степени загрязненности поверхностных вод по гидрохимическим показателям
Р 52.24.661-2004 Оценка риска антропогенного воздействия приоритетных загрязняющих веществ на поверхностные воды суши
Р 52.24.776-2012 Оценка антропогенной нагрузки и риска воздействия на устьевые области рек с учетом их региональных особенностей
Примечание - При пользовании настоящих рекомендаций целесообразно проверять действие ссылочных нормативных документов.
3 Термины, определения и сокращения
3.1 В настоящих рекомендациях применяются следующие термины с соответствующими определениями:
3.1.1
абиотическая компонента: Абиотическая среда, представляющая совокупность неорганических условий (факторов) обитания организмов
[1].
3.1.2
антропогенная нагрузка: Степень антропогенно-техногенного воздействия на отдельные компоненты природной среды или в целом на ландшафт
[1].
3.1.3
вариационный ряд: Совокупность значений варьирующего признака и соответствующих им численностей единиц совокупности
[2].
3.1.4
величина интервала (интервальная разность): Разность между верхними и нижними границами интервала
[2].
3.1.5
воздействие антропогенное: Влияние человека и его деятельности на окружающую природную среду
[3].
3.1.6
интервал: Границы значений варьирующего признака
[2].
3.1.7
загрязненность вод: Содержание загрязняющих воду веществ, микроорганизмов и тепла, вызывающее нарушение требований к качеству воды. |
3.1.8
качество воды: Характеристика состава и свойств воды, определяющая пригодность ее для конкретных видов водопользования. |
3.1.9
классификация степени загрязненности воды водных объектов: Условное разделение всего диапазона состава и свойств воды водных объектов в условиях антропогенного воздействия с постепенным переходом от "условно чистой" до "экстремально грязной" по значениям комбинаторного индекса загрязненности воды с учетом ряда дополнительных факторов
(РД 52.24.643).
3.1.10
критерий: Признак, на основании которого проводятся оценка состояния природного объекта или его свойств (например, качества вод, трофности, благополучия, функционирования водной экосистемы и др.); классификация объектов, явлений, свойств
[4].
3.1.11
критические показатели загрязненности воды; КПЗ: Ингредиенты или показатели загрязненности воды, которые обуславливают перевод воды по степени загрязненности в класс "очень грязная" и "экстремально грязная" на основании значения рассчитываемого по каждому ингредиенту оценочного балла, учитывающего одновременно значения наблюдаемых концентраций и частоту их обнаружения
(РД 52.24.643).
3.1.12
модальный интервал: Интервал, включающий наиболее часто встречающиеся величины в данном вариационном ряду
[2].
3.1.13
объем стока: Объем воды, стекающей с водосбора за какой-либо интервал времени |
3.1.14
река: Водоток значительных размеров, питающийся атмосферными осадками со своего водосбора и имеющий четко выраженное русло. |
3.1.15
речная система: Совокупность рек, сливающихся вместе и выносящих свои воды в виде общего потока. |
3.1.16
состояние водного объекта: Характеристика водного объекта по совокупности его количественных и качественных показателей применительно к видам водопользования. Примечание. К количественным и качественным показателям относятся: расход воды, скорость течения, глубина водного объекта, температура воды, pH, БПК и др. |
3.2 В настоящих рекомендациях введены и применены следующие сокращения:
- БПК5 - биохимическое потребление кислорода;
- ГСН - государственная служба наблюдений за состоянием окружающей среды;
- ЛООВ - легкоокисляемые органические вещества;
- ПДК - предельно допустимая концентрация;
- УКИЗВ - удельный комбинаторный индекс загрязненности воды.
4 Общие положения по оценке антропогенной нагрузки на речные экосистемы с учетом их региональных особенностей
4.1 Возрастающие темпы хозяйственной деятельности человека обусловливают необходимость оценки антропогенной нагрузки на различные геосистемы (объекты окружающей среды) с учетом всей совокупности возможного вредного воздействия различных факторов и природной специфики объектов (региональных особенностей).
Допустимой будет считаться такая антропогенная нагрузка, при которой отклонение системы от нормального естественного состояния не приводит к нарушению природных устойчивых биогеохимических связей в экосистемах и не ухудшает качество среды.
4.2 При оценке антропогенной нагрузки на речные экосистемы необходимо выявить границы между областями их нормального функционирования и измененного (под влиянием какого-либо фактора воздействия). Это позволяет оценить различные состояния экосистемы от естественного до антропогенно трансформированного, при котором произошли существенные изменения в состоянии экосистемы.
4.3 Градации антропогенной нагрузки устанавливают по результатам оценки состояния речных экосистем в зависимости от степени их нарушенности, а также на основе выявления причинно-следственных связей между воздействием на биоту и ее откликом.
Согласно Р 52.24.661 и
[1],
[3] состояние речных экосистем можно условно разделить на:
- естественное - не нарушенное антропогенным воздействием;
- равновесное - скорость внутриводоемных биохимических процессов восстановления экосистемы превышает темпы антропогенных нарушений;
- кризисное - скорость внутриводоемных биохимических процессов восстановления экосистемы ниже темпов антропогенных нарушений;
- критическое - обратимая замена природных экологических систем на измененные по трофности, сапробности и биологической продуктивности пресноводные экосистемы;
- катастрофическое - необратимый процесс перехода пресноводных экосистем в новое состояние по трофности, сапробности и биологической продуктивности.
4.4 Классификаторы оценки антропогенной нагрузки на речные экосистемы разработаны на основе систематизации многолетней режимной информации ГСН о состоянии речных экосистем России, позволяющей учесть все многообразие региональных особенностей их формирования и функционирования.
В перечень показателей, по которым проводится оценка изменчивости состояния речных экосистем, включены такие гидрохимические показатели, как содержание растворенного в воде кислорода, азот аммонийный, биохимическое потребление кислорода (БПК
5), нефтепродукты, которые удовлетворяют требованиям интегральности, неспецифичности отклика на воздействие, минимизации затрат на измерение, надежности определения
[5].
Оценка изменчивости состояния речных экосистем дает возможность выявить интервалы колебания показателей, превышение которых приводит к переходу экосистемы в другое состояние. Градации состояния речных экосистем приведены в
4.3.
Экосистемы, функционирующие в разных состояниях, испытывают разную по уровню антропогенную нагрузку.
Антропогенная нагрузка на различных участках реки в основном обусловливается поступлением химических веществ с речным стоком с расположенных выше участков.
4.5 Оценку антропогенной нагрузки по длине реки проводят на основе анализа многолетней гидрологической и гидрохимической информации ГСН на пунктах режимных наблюдений.
Участки реки выбирают с учетом наличия стационарных пунктов режимных наблюдений ГСН, неравномерности антропогенного воздействия и различных физико-географических условий функционирования речных экосистем.
Корректировка выбора участков реки для оценки антропогенной нагрузки может быть проведена на основе анализа многолетней режимной информации согласно
РД 52.24.633,
РД 52.24.643, Р 52.24.661,
Р 52.24.776 с учетом оценки:
а) степени загрязненности и изменчивости компонентного состава водной среды на различных участках по длине реки;
б) изменчивости биотических показателей состояния речных экосистем на отдельных участках реки;
в) изменчивости состояния речных экосистем на различных участках реки.
4.6 Оценку антропогенной нагрузки проводят по показателю доли антропогенного воздействия (определяемому за каждый год по формуле расчета коэффициента комплексности согласно
РД 52.24.643 и Р 52.24.661), либо по значениям модуля притока химических веществ (азот аммонийный, легкоокисляемые органические вещества (ЛООВ), определяемые по БПК
5 воды, и нефтепродукты).
Доля антропогенного воздействия имеет экологический смысл, оценивает участие антропогенной составляющей в формировании компонентного состава водной среды
(Р 52.24.776) и рассчитывается как коэффициент комплексности воды при расчете удельного комбинаторного индекса загрязненности воды (УКИЗВ)
(РД 52.24.643). Антропогенная нагрузка, определяемая по доле антропогенного воздействия, обуславливается, в основном, загрязняющими веществами.
Оценка антропогенной нагрузки по значениям модуля притока химических веществ (азот аммонийный, ЛООВ (по БПК5 воды) и нефтепродукты) учитывает вклад органических и биогенных веществ в химический состав воды.
Характер изменчивости объемов притока растворенных химических веществ на различные участки реки дает возможность оценить трансформацию антропогенной нагрузки по длине исследуемого водотока.
Условно антропогенная нагрузка может быть "малой", "умеренной", "критической", "высокой" или "очень высокой"
(Р 52.24.776).
4.7 Для выбранных участков рек проводят расчет доли антропогенного воздействия согласно Р 52.24.661, объемов и модулей притока химических веществ и оценку антропогенной нагрузки на конкретных участках реки.
Это позволит выявить закономерности (тенденции) изменчивости антропогенной нагрузки по длине реки и ранжировать водные экосистемы по степени испытываемой антропогенной нагрузки.
4.8 При оценке антропогенной нагрузки на речные экосистемы используют такие характеристики, как:
а) модальный интервал значений показателей, используемых при оценке состояния и антропогенной нагрузки;
б) кратность превышения предельно допустимых концентраций (ПДК) загрязняющих веществ;
в) диапазон максимальных значений модулей притока растворенных химических веществ.
5 Оценка антропогенной нагрузки
5.1 Для оценки антропогенной нагрузки необходимо иметь:
а) многолетнюю режимную информацию об изменчивости гидрохимических показателей состояния участков реки, испытывающих принципиально разную антропогенную нагрузку;
б) многолетнюю режимную гидрологическую информацию об объеме стока за год (водном стоке) в пункте наблюдений;
в) классификаторы оценки антропогенной нагрузки на речные экосистемы.
5.2 Степень загрязненности водной среды определяют согласно
РД 52.24.643 по методу комплексной оценки, который позволяет оценить загрязненность воды одновременно по перечню наиболее регулярно определяемых ингредиентов и показателей качества воды и классифицировать воду по степени ее загрязненности.
5.3 Оценку состояния экосистем выбранных участков реки проводят по изменчивости:
- модальных интервалов значений концентраций таких показателей, как растворенный кислород, БПК
5 и азот аммонийный с использованием классификатора, приведенного в
таблице 1 согласно Р 52.24.661,
Р 52.24.776;
- структурной организации и уровня развития планктонных и бентосных сообществ водных организмов при наличии режимных гидробиологических наблюдений с использованием критериев, приведенных в
РД 52.24.633, Р 52.24.661,
Р 52.24.776.
Таблица 1
Классификатор состояния речных экосистем
Состояние экосистемы | Диапазоны модальных интервалов значений массовых концентраций, мг/дм3 |
минимальных значений растворенного кислорода | ЛООВ по БПК5 | азота аммонийного |
Естественное | Св. 6,0 | От 0,5 до 1,0 включ. | Менее 0,1 |
Равновесное | От 4,0 до 6,0 включ. | От 1,0 до 2,0 включ. | От 0,1 до 0,5 включ. |
Кризисное | От 2,0 до 4,0 включ. | От 2,0 до 4,0 включ. | От 0,5 до 1,0 включ. |
Критическое | От 1,0 до 2,0 включ. | От 4,0 до 7,0 включ. | От 1,0 до 3,0 включ. |
Катастрофическое | Менее 1,0 | Св. 7,0 | Св. 3,0 |
5.4 Оценку антропогенной нагрузки на основе значений доли антропогенного воздействия проводят в следующей последовательности.
5.4.1 Многолетние исследования показали обоснованность использования для оценки антропогенной нагрузки показателя доли антропогенного воздействия, значение которого определяют по результатам расчета УКИЗВ с использованием обязательного перечня наиболее регулярно определяемых 15 нормируемых показателей по
РД 52.24.643.
Доля антропогенного воздействия, D, %, оценивает участие антропогенной составляющей в формировании компонентного состава абиотической части экосистемы. Данный показатель рассчитывают в соответствии с Р 52.24.661 по формуле

, (1)
где N1 - число ингредиентов, превышающих ПДК;
N - общее число нормируемых ингредиентов, используемых при расчете УКИЗВ (перечень нормируемых ингредиентов приведен в РД 52.24.643,
пункт В.1).
Получают выборки значений показателя доли антропогенного воздействия для каждого участка реки. Полученные выборки должны быть достаточно большими (не менее 6 лет) и, предпочтительно, статистически однородными.
5.4.2 Выделяют модальный интервал значений доли антропогенного воздействия и оценивают антропогенную нагрузку по критериям, приведенным в
таблице 2. Один из способов установления модальных интервалов приведен в
приложении А.
Таблица 2
Классификатор оценки антропогенной нагрузки на речные
экосистемы по доле антропогенного воздействия
Антропогенная нагрузка | Модальный интервал значений доли антропогенного воздействия, % |
Малая | Менее 30 |
Умеренная | От 30 до 45 включ. |
Критическая | От 45 до 55 включ. |
Высокая | От 55 до 70 включ. |
Очень высокая | Св. 70 |
5.5 Оценку антропогенной нагрузки по модулю притока химических веществ проводят в следующей последовательности.
5.5.1 Количество перенесенного вещества за расчетный период, G, тыс. тонн, рассчитывают прямым методом в соответствии с РД 52.24.508 по формуле

, (2)
где m - число интервалов расчетного периода;
W1 - объем стока воды за i-й интервал расчетного периода, км3;

- средняя концентрация вещества за i-й интервал расчетного периода, мг/дм
3.
Изменение содержания в водной среде ЛООВ, азота аммонийного, нефтепродуктов оказывает негативное воздействие, способное вызвать нарушение структурно-функциональных характеристик сообществ водных организмов и ухудшение состояния экосистемы в целом.
5.5.2 Рассчитывают значения модуля притока химических веществ на конкретный участок реки за каждый год.
Модуль притока растворенных химических веществ, M, т/км2, определяют по формуле

(3)
где F - площадь водосбора, тыс. км2.
Получают вариационные ряды значений модуля притока нефтепродуктов, азота аммонийного и ЛООВ (по БПК
5) и выделяют их модальные интервалы (см.
приложение А). Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в
таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.
Таблица 3
Классификатор оценки антропогенной нагрузки на речные
экосистемы по модулю притока растворенных химических веществ
Антропогенная нагрузки | Интервал максимальных значений модуля притока, т/км2 в год |
азота аммонийного | ЛООВ (по БПК5) | нефтепродуктов |
Малая | Менее 0,05 | Менее 0,50 | Менее 0,05 |
Умеренная | От 0,05 до 0,10 включ. | От 0,50 до 1,00 включ. | От 0,05 до 0,10 включ. |
Критическая | От 0,10 до 0,20 включ. | От 1,00 до 1,50 включ. | От 0,10 до 0,30 включ. |
Высокая | От 0,20 до 0,30 включ. | От 1,50 до 2,00 включ. | От 0,30 до 0,50 включ. |
Очень высокая | Св. 0,30 | Св. 2,00 | Св. 0,50 |
Использование модуля притока химических веществ позволяет сравнивать антропогенную нагрузку на отдельных участках реки с различными объемами водного стока и площадями водосбора.
5.6 Оценка антропогенной нагрузки по длине водотока, как по показателю доли антропогенного воздействия, так и по модулю притока химических веществ, проводится в следующей последовательности.
Формируют выборки значений доли антропогенного воздействия и модулей притока химических веществ за каждый год за одинаковые временные интервалы для каждого пункта.
Проверяют статистическую однородность выборок значений показателя для каждого пункта как показано в
приложении Б.
Оценивают наличие или отсутствие статистически значимых изменений антропогенной нагрузки между ближайшими пунктами, что позволяет оценить изменчивость антропогенной нагрузки по длине водотока. В случае отсутствия таких изменений делают вывод о равномерной антропогенной нагрузке на исследуемый участок водотока. Если пункты охватывают весь водоток и антропогенная нагрузка от истока к устью статистически значимо не меняется, антропогенную нагрузку на весь водоток считают равномерной.
Об усилении антропогенной нагрузки по длине водотока судят по увеличению среднего арифметического в случае однородных выборок или медианы в случае неоднородных выборок значений показателей доли антропогенного воздействия и/или модуля притока химических веществ в ближайших друг к другу пунктах, если наоборот - о снижении антропогенной нагрузки на исследуемом участке.
5.7 Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.
Результаты практического использования алгоритма проведения оценки антропогенной нагрузки на основе значений доли антропогенного воздействия приведены на примере отдельных участков р. Дон в
приложении Г, по значениям модуля притока химических веществ - в
приложении Д.
(рекомендуемое)
ВЫДЕЛЕНИЕ МОДАЛЬНОГО ИНТЕРВАЛА ЗНАЧЕНИЙ ПОКАЗАТЕЛЕЙ
Выделение модального интервала значений показателей, используемых при оценке состояния речных экосистем и антропогенной нагрузки проводится в следующей последовательности:
А.1 Ранжирование вариационных рядов значений показателей.
А.2 Подсчет объема выборки (количество значений показателя) n и вычисление среднего арифметического

. Перед расчетом среднего арифметического из рядов значений показателей должны быть удалены аномально высокие или низкие значения, появление которых может быть связано только с грубыми ошибками при получении информации согласно
РД 52.24.622.
А.3 Группировка значений вариационного ряда осуществляется на основе использования стандартного отклонения,

, как оптимальной ширины интервала. Расчет шага группировки значений проводится по
формуле А.1, либо по
формуле А.2

при n > 30, (А.1)

при n < 30, (А.2)
где Xi - i-ое значение показателя выборки,

- среднее арифметическое значений показателя выборки,
n - количество значений показателя в выборке.
Полученное значение принимается как шаг группировки данных.
А.4 Определение границ интервалов (минимальная и максимальная) вариационного ряда. Границы интервалов приводятся с точностью на один разряд больше, чем значение показателя (то есть, если значение показателя определено с точностью до 0,1, границы интервалов приводятся с точностью до 0,01).
Минимальная граница первого интервала Int1min равна наименьшему значению выборки Xmin согласно формуле
Int1min = Xmin. (А.3)
Для получения максимальной границы первого интервала Int1max к его минимальной границе прибавляется стандартное отклонение по формуле

. (А.4)
Минимальная граница второго интервала Int2min отличается от максимальной первого интервала на величину mint и рассчитывается по формуле

. (А.5)
Определение границ интервалов осуществляется до тех пор, пока максимальная граница очередного интервала не превысит максимальное значение показателя в выборке.
А.5 Распределение значений показателей по установленным интервалам.
Интервал, в который попадает наибольшее количество значений, является модальным. Для оценки его границ используют фактическое минимальное и максимальное значения показателя, вошедшие в расчетные границы модального интервала. Для удобства выделения модального интервала ряд распределения представляют графически в виде гистограммы частостей, где по оси абсцисс откладывают значения границ интервалов и на их основании стоят прямоугольники, высота которых пропорциональна частостям.
Пример - Вариационный ряд значений концентрации азота аммонийного в водной среде р. Дон (г. Константиновск) за период с 1980 по 2012 годы состоит из 119 значений от 0 до 0,55 мг/дм3. Рассчитанное стандартное отклонение составляет 0,12 мг/дм3. Используя его в качестве шага группировки данных, получаем пять интервалов с границами в соответствии с таблицей А.1.
В первый интервал с расчетными границами от 0 до 0,120 мг/дм3 попадает наибольшее количество значений (66 из 119 или 55,5%). Минимальная концентрация азота аммонийного, попавшая в него, равна 0 мг/дм3, максимальная - 0,12 мг/дм3. Таким образом, найденный модальный интервал для азота аммонийного составляет от 0 до 0,12 мг/дм3 и включает в себя 55,5% всех значений вариационного ряда.
Таблица А.1
Распределение значений концентрации азота аммонийного
по интервалам (р. Дон, г. Константиновск)
Номер интервала | 1 | 2 | 3 | 4 | 5 |
Расчетные границы интервалов вариационного ряда, мг/дм3 | 0 - 0,120 | 0,121 - 0,241 | 0,242 - 0,362 | 0,363 - 0,483 | 0,484 - 0,604 |
Фактические границы интервалов, мг/дм3 | 0 - 0,12 | 0,13 - 0,24 | 0,25 - 0,34 | 0,40 - 0,48 | 0,49 - 0,55 |
Число значений показателя в интервале | 66 | 32 | 14 | 5 | 2 |
Пример гистограммы частостей концентраций азота аммонийного в воде р. Дон на участке у г. Константиновск показан на
рисунке А.1.
Рисунок А.1 - Гистограммы частостей концентраций азота
аммонийного в воде р. Дон (г. Константиновск)
(обязательное)
ОПРЕДЕЛЕНИЕ СТАТИСТИЧЕСКОЙ ОДНОРОДНОСТИ ВЫБОРОК ЗНАЧЕНИЙ
ПОКАЗАТЕЛЕЙ ДЛЯ ОЦЕНКИ АНТРОПОГЕННОЙ НАГРУЗКИ
Оценку антропогенной нагрузки проводят по таким показателям, как доля антропогенного воздействия и/или модуль притока химических веществ. Определение статистической однородности рядов значений показателей для оценки антропогенной нагрузки приводится на примере доли антропогенного воздействия и проводится в следующей последовательности.
Б.1 Для каждого пункта наблюдений составляют рабочую таблицу на основе данных по программе расчета данных УКИЗВ, включающую степень загрязненности и значение доли антропогенного воздействия, D, за каждый год
(таблица Б.1). Ряды наблюдений должны быть достаточно большими (не менее 6 лет), а выборки значений доли антропогенного воздействия, предпочтительно, статистически однородными.
Таблица Б.1
Характеристики загрязненности воды различных участков реки
Год | Участок реки (пункт наблюдений А) | Участок реки (пункт наблюдений Б) |
Степень загрязненности воды | Доля антропогенного воздействия, % | Степень загрязненности воды | Доля антропогенного воздействия, % |
| | | | |
Б.2 Проверка статистической однородности выборок значений показателя доли антропогенного воздействия для каждого участка реки.
Для оценки статистической однородности значений доли антропогенного воздействия проводят анализ полученной совокупности по коэффициенту вариации, C
V, %,
[6], который рассчитывают по формуле

(Б.1)
где

- среднее арифметическое выборки значений доли антропогенного воздействия.
Среднее арифметическое и стандартное отклонение рассчитывают по общепринятым статистическим формулам (см.
приложение А).
Оценку однородности выборок значений доли антропогенного воздействия по значению C
V проводят по следующим градациям
[7]:
- менее 17% - абсолютно однородная;
- от 17% до 35% - достаточно однородная;
- от 35% до 40% - недостаточно однородная;
- от 40% до 60% - неоднородная;
- свыше 60% - абсолютно неоднородная.
Б.3 Алгоритм анализа выборок значений доли антропогенного воздействия с различной степенью однородности представлен на
рисунке Б.1.
Рисунок Б.1 - Схема анализа выборок с различной степенью
однородности
Б.4 Для дальнейшего анализа с применением t-критерия Стьюдента для парных зависимых выборок требуются абсолютно и достаточно однородные выборки.
Для недостаточно однородных и неоднородных выборок рекомендуется проанализировать выборку на наличие промахов (сильно отличающихся значений) и оценить CV выборки значений D после исключения промахов. Абсолютно неоднородные выборки анализируются с использованием критерия Вилкоксона для зависимых выборок.
Б.5 Наличие промахов в выборке значений D оценивают по критерию Ирвина
[8]. Для этого выборку ранжируют от минимального значения к максимальному. Критерий

определяют по формуле

(Б.2)
где Xn+1 и Xn - наибольшие значения показателя в выборке.
Затем

сравнивается с табличным значением критерия,

, приведенным в
таблице В.1. Если объем выборки занимает промежуточное положение между приведенными в
таблице В.1, используют критерий для большего n. Например, для анализа выборки, состоящей из 15 вариантов, применяют

, рассчитанный для n = 20 (1,3 при p < 0,05 и 1,8 при p < 0,01). Рекомендуемый уровень значимости p < 0,05.
Если

, то нулевая гипотеза не подтверждается, т.е. результат - ошибочный, и он должен быть исключен при дальнейшей обработке результатов наблюдений.
Б.6 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, однородные выборки значений доли антропогенного воздействия за идентичные временные интервалы сопоставляются с использованием t-критерия Стьюдента для парных зависимых наблюдений
[9]. Нулевая гипотеза (H
0) предполагает, что разница между генеральными параметрами сравниваемых совокупностей равна нулю и различия между наблюдаемыми показателями носят не систематический, а случайный характер. Альтернативная гипотеза (H
1) предполагает, что между показателями в сравниваемых пунктах проявляются систематические статистически значимые отличия.
Для сравнения выборок необходимо рассчитать t-критерий Стьюдента для парных зависимых наблюдений, сравнить его с теоретическим табличным значением и сделать вывод о наличии или отсутствии статистически значимых отличий.
Вычисление значения критерия Стьюдента tфакт осуществляется по формуле

(Б.3)
где

- среднее арифметическое разностей между соответствующими показателями (за один и тот же год) в сравниваемых пунктах;

- стандартная ошибка разностей показателей.
Среднее арифметическое разностей между соответствующими показателями вычисляется по формуле

(Б.4)
где n' - количество пар значений показателя,
xi, yi - значения показателя D в пунктах А и Б.
Стандартная ошибка разностей показателей вычисляется по формуле

(Б.5)
где Sd - стандартное отклонение выборки разностей показателей.
Стандартное отклонение выборки разностей показателей вычисляется по формуле

(Б.6)
где (n' - 1) - число степеней свободы,
k для определения t
теор (см.
таблицу В.2)
Значения t-критерия Стьюдента, t
теор при p < 0,05 для выборок объемом не более 20 лет приведены в
таблице В.2. Рекомендуемый уровень значимости не ниже 0,1 < p < 0,05. Для выборок большего объема значения t
теор при различных уровнях значимости приведены в справочных таблицах
[9],
[10]. Если t
факт < t
теор, то нулевая гипотеза принимается, в противном случае принимается альтернативная.
Для оценки направления изменений сопоставляются средние арифметические значения выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение среднего арифметического показателя вышерасположенного по течению реки пункта превышает значение среднего арифметического нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.
Б.7 Для оценки статистически значимых отличий в показателях, определяющих антропогенную нагрузку на участки водотока, лежащие между исследуемыми пунктами, неоднородные и абсолютно неоднородные выборки значений показателей за идентичные временные интервалы сопоставляются с использованием критерия Вилкоксона для парных зависимых наблюдений
[11]. Нулевая гипотеза (H
0) предполагает, что различия между наблюдаемыми показателями носят случайный характер, а альтернативная (H
1) - систематический характер.
Рабочая таблица
(таблица Б.6) при использовании критерия Вилкоксона заполняется следующим образом:
а) для каждого года вычисляют величину изменения показателя (di) между пунктом А (xi) и пунктом Б (yi). Пары наблюдений, которым соответствует нулевое изменение, следует исключить из анализа, соответственно уменьшив на единицу объем выборки;
б) вычисленные изменения упорядочивают по возрастанию их абсолютной величины (без учета знака) и нумеруют так, чтобы наименьшая разность получила первый ранг, R. Одинаковым по величине разностям присваивают один и тот же ранг, вычисленный как среднее тех мест, которые они занимают в упорядоченном ряду;
в) полученным рангам присваивают знак в соответствии с направлением изменения и получают знаковый ранг (Rz) отрицательный при уменьшении и положительный при увеличении;
г) вычисляют сумму знаковых рангов Wфакт отдельно для положительных рангов и отдельно для отрицательных по формуле

(Б.7)
где n' - количество пар значений показателя;
Rz - знаковый ранг изменения показателей.
"Типичным сдвигом" считается сумма преобладающих по знаку рангов, "нетипичным сдвигом" - редких по знаку рангов.
д) меньшую из двух сумм разностей ("нетипичный сдвиг") без учета ее знака используют в качестве фактически установленной величины W
факт. Сравнивают полученную величину W
факт для принятого уровня значимости
p и числа парных наблюдений n', которое берут без нулевых разностей, с критерием W
теор, приведенным в
таблице В.3. При W
факт <= W
теор принимается гипотеза H
1, в противном случае - H
0. Рекомендуемый уровень значимости не ниже p < 0,05.
| | ИС МЕГАНОРМ: примечание. Нумерация таблиц дана в соответствии с официальным текстом документа. | |
Таблица Б.6
Пары значений показателя для расчета W
факт
Год | Значение показателя | Разность значений показателя | Ранг изменения, R | Знаковый ранг, Rz |
xi (в пункте А) | yi (в пункте Б) |
| | | | | |
Для количества пар наблюдений n' > 25 критические значения критерия Вилкоксона можно определить по формуле

(Б.8)
где n' - количество пар значений показателей,
q - величина, зависящая от принятого уровня значимости p (при p < 0,05 q = 1,96, при p < 0,01 q = 2,58)
[9].
Б.8 Согласуясь с результатами применения t-критерия Стьюдента или критерия Вилкоксона, делают вывод о наличии или отсутствии статистически значимых изменений показателей, по которым определяют антропогенную нагрузку, между ближайшими пунктами по длине водотока. В случае отсутствия таких изменений делают вывод о равной антропогенной нагрузке на исследуемый участок.
Для оценки направления изменений сопоставляются значения медианы выборок показателей, по которым проводится оценка антропогенной нагрузки в ближайших друг к другу пунктах. Если значение медианы показателя вышерасположенного по течению реки пункта превышает значение медианы нижерасположенного пункта, то антропогенная нагрузка увеличивается, если наоборот - снижается.
Полученные результаты позволяют приближенно оценить антропогенную нагрузку на участке реки, расположенном между исследуемыми пунктами в случае равномерной антропогенной нагрузки, а в случае неравномерной - выделить участок, на котором происходит ее изменение.
(справочное)
ТАБЛИЧНЫЕ ЗНАЧЕНИЯ КРИТЕРИЕВ, ИСПОЛЬЗУЕМЫХ
ПРИ СТАТИСТИЧЕСКОЙ ОБРАБОТКЕ ДАННЫХ
Таблица В.1
Теоретические значения критерия Ирвина

для различных уровней значимости p
Количество значений показателя в выборке, n | Критерий  при уровне значимости p |
менее 0,05 | менее 0,01 |
1 | 2,0 | 3,0 |
2 | 2,8 | 3,7 |
3 | 2,2 | 2,9 |
10 | 1,5 | 2,0 |
20 | 1,3 | 1,8 |
30 | 1,2 | 1,7 |
50 | 1,1 | 1,6 |
Таблица В.2
Теоретические значения критерия t
теор для различных уровней
значимости
p и числа степеней свободы
k [10]
k | p менее |
0,2 | 0,1 | 0,05 | 0,02 | 0,01 | 0,005 | 0,002 | 0,001 |
3 | 1,6377 | 2,35340 | 3,182 | 4,540 | 5,840 | 7,458 | 10,214 | 12,924 |
4 | 1,5332 | 2,13180 | 2,776 | 3,746 | 4,604 | 5,597 | 7,173 | 8,610 |
5 | 1,4759 | 2,01500 | 2,570 | 3,649 | 4,0321 | 4,773 | 5,893 | 6,863 |
6 | 1,4390 | 1,943 | 2,4460 | 3,1420 | 3,7070 | 4,316 | 5,2070 | 5,958 |
7 | 1,4149 | 1,8946 | 2,3646 | 2,998 | 3,4995 | 4,2293 | 4,785 | 5,4079 |
8 | 1,3968 | 1,8596 | 2,3060 | 2,8965 | 3,3554 | 3,832 | 4,5008 | 5,0413 |
9 | 1,3830 | 1,8331 | 2,2622 | 2,8214 | 3,2498 | 3,6897 | 4,2968 | 4,780 |
10 | 1,3720 | 1,8125 | 2,2281 | 2,7638 | 3,1693 | 3,5814 | 4,1437 | 4,5869 |
11 | 1,363 | 1,795 | 2,201 | 2,718 | 3,105 | 3,496 | 4,024 | 4,437 |
12 | 1,3562 | 1,7823 | 2,1788 | 2,6810 | 3,0845 | 3,4284 | 3,929 | 4,178 |
13 | 1,3502 | 1,7709 | 2,1604 | 2,6503 | 3,1123 | 3,3725 | 3,852 | 4,220 |
14 | 1,3450 | 1,7613 | 2,1448 | 2,6245 | 2,976 | 3,3257 | 3,787 | 4,140 |
15 | 1,3406 | 1,7530 | 2,1314 | 2,6025 | 2,9467 | 3,2860 | 3,732 | 4,072 |
16 | 1,3360 | 1,7450 | 2,1190 | 2,5830 | 2,9200 | 3,2520 | 3,6860 | 4,0150 |
17 | 1,3334 | 1,7396 | 2,1098 | 2,5668 | 2,8982 | 3,2224 | 3,6458 | 3,965 |
18 | 1,3304 | 1,7341 | 2,1009 | 2,5514 | 2,8784 | 3,1966 | 3,6105 | 3,9216 |
19 | 1,3277 | 1,7291 | 2,0930 | 2,5395 | 2,8609 | 3,1737 | 3,5794 | 3,8834 |
20 | 1,3253 | 1,7247 | 2,08600 | 2,5280 | 2,8453 | 3,1534 | 3,5518 | 3,8495 |
Таблица В.3
Теоретические значения критерия Вилкоксона W
теор
(двусторонний критерий) при p < 0,05
Число пар наблюдений | Wтеор |
6 | 1 |
7 | 3 |
8 | 5 |
9 | 7 |
10 | 9 |
11 | 12 |
12 | 15 |
13 | 18 |
14 | 22 |
15 | 26 |
16 | 31 |
17 | 36 |
18 | 41 |
19 | 47 |
20 | 53 |
21 | 60 |
22 | 67 |
23 | 74 |
24 | 82 |
25 | 90 |
(справочное)
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ ПО ДЛИНЕ РЕКИ ДОН НА ОСНОВЕ
ЗНАЧЕНИЙ ДОЛИ АНТРОПОГЕННОГО ВОЗДЕЙСТВИЯ
Г.1 Для оценки антропогенной нагрузки на различные участки р. Дон выбраны пункты: г. Константиновск, ст. Раздорская и г. Ростов-на-Дону. Характеристики пунктов наблюдений приведены в
таблице Г.1. Для анализа использована информация за период с 1999 по 2012 годы.
Таблица Г.1
Характеристики пунктов наблюдений по длине р. Дон
Пункт наблюдений | Расстояние от устья, км | Площадь водосбора, тыс. км2 |
г. Константиновск | 207 | 257 |
ст. Раздорская | 151 | 378 |
г. Ростов-на-Дону | 44 | 421 |
Г.2 Производится расчет значений доли антропогенного воздействия за каждый год в пунктах наблюдений. Рассчитанные значения показателя приведены в
таблицах Г.2 -
Г.4.
Таблица Г.2
Характеристики качества воды р. Дон
в пункте г. Константиновск
Год | Степень загрязненности воды | Количество ингредиентов | Доля антропогенного воздействия, % |
учитываемых при расчете УКИЗВ | концентрации которых превышают ПДК |
1999 | Очень загрязненная | 11 | 5 | 45 |
2000 | Загрязненная | 11 | 4 | 36 |
2001 | Загрязненная | 11 | 4 | 36 |
2002 | Загрязненная | 12 | 4 | 33 |
2003 | Загрязненная | 13 | 6 | 46 |
2004 | Загрязненная | 13 | 6 | 46 |
2005 | Загрязненная | 13 | 6 | 46 |
2006 | Загрязненная | 13 | 6 | 46 |
2007 | Загрязненная | 13 | 5 | 38 |
2008 | Очень загрязненная | 13 | 7 | 54 |
2009 | Загрязненная | 13 | 6 | 46 |
2010 | Загрязненная | 13 | 6 | 46 |
2011 | Загрязненная | 13 | 6 | 46 |
2012 | Загрязненная | 13 | 5 | 38 |
Среднее арифметическое значение показателя | 43,0 |
Таблица Г.3
Характеристики качества воды р. Дон в пункте ст. Раздорская
Год | Степень загрязненности воды | Количество ингредиентов | Доля антропогенного воздействия, % |
учитываемых при расчете УКИЗВ | концентрации которых превышают ПДК |
1999 | Грязная | 11 | 7 | 64 |
2000 | Загрязненная | 11 | 5 | 45 |
2001 | Слабо загрязненная | 11 | 4 | 36 |
2002 | Загрязненная | 12 | 6 | 50 |
2003 | Очень загрязненная | 13 | 7 | 54 |
2004 | Очень загрязненная | 13 | 7 | 54 |
2005 | Очень загрязненная | 13 | 6 | 46 |
2006 | Загрязненная | 13 | 6 | 46 |
2007 | Загрязненная | 13 | 6 | 46 |
2008 | Очень загрязненная | 13 | 8 | 62 |
2009 | Очень загрязненная | 13 | 7 | 54 |
2010 | Загрязненная | 13 | 6 | 46 |
2011 | Загрязненная | 13 | 6 | 46 |
2012 | Загрязненная | 13 | 5 | 38 |
Среднее арифметическое значение показателя | 49,1 |
Таблица Г.4
Характеристики качества воды р. Дон
в пункте г. Ростов-на-Дону
Год | Степень загрязненности воды | Количество ингредиентов | Доля антропогенного воздействия, % |
учитываемых при расчете УКИЗВ | концентрации которых превышают ПДК |
1999 | Грязная | 12 | 9 | 75 |
2000 | Грязная | 12 | 7 | 58 |
2001 | Грязная | 13 | 9 | 69 |
2002 | Грязная | 12 | 7 | 58 |
2003 | Грязная | 12 | 9 | 75 |
2004 | Грязная | 12 | 6 | 50 |
2005 | Грязная | 12 | 6 | 50 |
2006 | Очень загрязненная | 12 | 7 | 58 |
2007 | Грязная | 13 | 7 | 54 |
2008 | Грязная | 13 | 9 | 69 |
2009 | Очень загрязненная | 13 | 9 | 69 |
2010 | Очень загрязненная | 13 | 9 | 69 |
2011 | Грязная | 13 | 9 | 69 |
2012 | Грязная | 13 | 8 | 62 |
Среднее арифметическое значение показателя | 63,2 |
Г.3 Анализ на однородность для каждой выборки рассчитанных значений доли антропогенного воздействия проводят по коэффициенту вариации, по величине которого делается заключение о степени однородности согласно
приложению Б.
Результаты анализа на однородность выборок значений показателя доли антропогенного воздействия на разных участках по длине р. Дон представлены в
таблице Г.5.
Таблица Г.5
Характеристика выборок значений доли антропогенного
воздействия на разных участках р. Дон
Пункт наблюдений | Среднее арифметическое значений D, % | Стандартное отклонение, % | Коэффициент вариации, % | Степень однородности выборки |
г. Константиновск | 43,0 | +/- 5,8 | 13,4 | Абсолютно однородная |
ст. Раздорская | 49,1 | +/- 7,9 | 18,5 | Достаточно однородная |
г. Ростов-на-Дону | 63,2 | +/- 8,6 | 20,0 | Достаточно однородная |
Г.4 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по доле антропогенного воздействия выделяют модальный интервал значений показателя, сравнивают его с критериями, приведенными в
таблице 2 и делают вывод о нагрузке.
По длине р. Дон антропогенная нагрузка меняется от умеренной до высокой
(таблица Г.6).
Таблица Г.6
Антропогенная нагрузка по показателю доли антропогенного
воздействия на разных участках р. Дон
Пункт наблюдений | Модальный интервал значений доли антропогенного воздействия, % | Частость, % | Антропогенная нагрузка |
г. Константиновск | От 45 до 46 | 57 | Умеренная с переходом в критическую |
ст. Раздорская | От 46 до 50 | 50 | Критическая |
г. Ростов-на-Дону | От 62 до 69 | 43 | Высокая |
Г.5 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов г. Константиновск и ст. Раздорская приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия абсолютно и достаточно однородны
(таблица Г.5) для их сравнения используют t-критерий Стьюдента.
Согласно
приложению Б необходимо рассчитать t
факт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета t
факт приведены в
таблице Г.7.
Таблица Г.7
Промежуточные данные для расчета t
факт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары | Год | Значение показателя D в пункте | Разность значений показателя D | Квадрат разности значений показателя D |
г. Константиновск (xi) | ст. Раздорская (yi) |
1 | 1999 | 45 | 64 | -19 | 167,15 |
2 | 2000 | 36 | 45 | -9 | 8,58 |
3 | 2001 | 36 | 36 | 0 | 36,86 |
4 | 2002 | 33 | 50 | -17 | 119,43 |
5 | 2003 | 46 | 54 | -8 | 3,72 |
6 | 2004 | 46 | 54 | -8 | 3,72 |
7 | 2005 | 46 | 46 | 0 | 36,86 |
8 | 2006 | 46 | 46 | 0 | 36,86 |
9 | 2007 | 38 | 46 | -8 | 3,72 |
10 | 2008 | 54 | 62 | -8 | 3,72 |
11 | 2009 | 46 | 54 | -8 | 3,72 |
12 | 2010 | 46 | 46 | 0 | 36,86 |
13 | 2011 | 46 | 46 | 0 | 36,86 |
14 | 2012 | 38 | 38 | 0 | 36,86 |
Среднее значение разностей значений показателя D равно -6,07, сумма квадратов разностей значений показателя D составляет 534,93.
По данным, представленным в
таблице Г.7, рассчитывают стандартную ошибку разностей значений D и стандартное отклонение выборки разностей значений D по
формулам Б.5 и
Б.6
Фактическое значение критерия, tфакт составляет
Теоретическое значение критерия, t
теор при уровне значимости p < 0,05 и числе степеней свободы k = 13: t
теор = 2,16 (см.
таблицу В.2).
Таким образом, 3,54 > 2,16, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между г. Константиновск и ст. Раздорской испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. Поскольку среднее арифметическое значение доли антропогенного воздействия в пункте ст. Раздорская превышает аналогичную величину в пункте г. Константиновск, можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.
Г.6 Оценка статистически значимых отличий между значениями выборок показателя, рассчитанных для пунктов ст. Раздорская и г. Ростов-на-Дону приводится ниже. Поскольку полученные выборки значений доли антропогенного воздействия достаточно однородны
(таблица Г.5) для их сравнения используют t-критерий Стьюдента.
Согласно
приложению Б необходимо рассчитать t
факт для сравнения выборок значений доли антропогенного воздействия в пунктах. Промежуточные данные для расчета t
факт приведены в
таблице Г.8.
Таблица Г.8
Промежуточные данные для расчета t
факт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары | Год | Значение показателя D в пункте | Разность значений показателя D | Квадрат разности значений показателя D |
ст. Раздорская (xi) | г. Ростов-на-Дону (yi) |
1 | 1999 | 64 | 75 | -11 | 9,88 |
2 | 2000 | 45 | 58 | -13 | 1,31 |
3 | 2001 | 36 | 69 | -33 | 355,59 |
4 | 2002 | 50 | 58 | -8 | 37,73 |
5 | 2003 | 54 | 75 | -21 | 47,02 |
6 | 2004 | 54 | 50 | 4 | 329,16 |
7 | 2005 | 46 | 50 | -4 | 102,88 |
8 | 2006 | 46 | 58 | -12 | 4,59 |
9 | 2007 | 46 | 54 | -8 | 37,73 |
10 | 2008 | 62 | 69 | -7 | 51,02 |
11 | 2009 | 54 | 69 | -15 | 0,73 |
12 | 2010 | 46 | 69 | -23 | 78,45 |
13 | 2011 | 46 | 69 | -23 | 78,45 |
14 | 2012 | 38 | 62 | -24 | 97,16 |
Среднее значение разностей значений показателя D равно -14,14; сумма квадратов разностей значений показателя D составляет 1231,71. По данным, представленным в
таблице Г.8, рассчитанные по
формулам Б.5 и
Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 9,73 и 2,60, соответственно.
Фактическое значение критерия, t
факт составляет 5,43. Теоретическое значение критерия t
теор при уровне значимости p < 0,05 и числе степеней свободы k = 13 равно 2,16 (см.
таблицу В.2).
Таким образом, 5,43 > 2,16, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между генеральными параметрами сравниваемых выборок значений доли антропогенного воздействия. Участок р. Дон, расположенный между ст. Раздорской и г. Ростов-на-Дону испытывает неравномерную антропогенную нагрузку по доле антропогенного воздействия. С учетом того, что значение среднего арифметического значений D в пункте г. Ростов-на-Дону превышает аналогичную величину в пункте ст. Раздорская можно заключить, что на данном участке антропогенная нагрузка возрастает по длине водотока.
(рекомендуемое)
ОЦЕНКА АНТРОПОГЕННОЙ НАГРУЗКИ ПО ПОКАЗАТЕЛЮ МОДУЛЯ ПРИТОКА
ХИМИЧЕСКИХ ВЕЩЕСТВ ПО ДЛИНЕ РЕКИ ДОН
Д.1 Для оценки антропогенной нагрузки по модулю притока растворенных химических веществ на различные участки р. Дон выбраны те же пункты, что и в приложении В (см.
таблицу В.1). Для оценки использована информация за период с 1999 по 2012 годы о содержании в водной среде азота аммонийного, ЛООВ (по БПК
5) и нефтепродуктов, а также данные об объемах водного стока.
Д.2 Оценка антропогенной нагрузки по модулю притока растворенных химических веществ проводится в соответствии с
5.5.
Для расчета среднегодовых значений концентраций данные предварительно анализируют на наличие промахов согласно
приложению Б.
Данные по значениям модулей притока химических веществ на пункты г. Константиновск, ст. Раздорская и г. Ростов-на-Дону приведены в
таблицах Д.1 -
Д.3.
Таблица Д.1
Модули притока растворенных химических веществ
в пункте г. Константиновск
Год | Модуль притока химических веществ, т/км2 в год |
ЛООВ | азота аммонийного | нефтепродуктов |
1999 | 0,246 | - | 0,014 |
2000 | 0,165 | - | 0,006 |
2001 | 0,109 | - | 0,003 |
2002 | 0,124 | - | 0,005 |
2003 | 0,132 | 0,010 | 0,006 |
2004 | 0,134 | 0,011 | 0,008 |
2005 | 0,269 | 0,010 | 0,009 |
2006 | 0,195 | 0,009 | 0,005 |
2007 | 0,146 | 0,014 | 0,002 |
2008 | 0,184 | 0,015 | 0,004 |
2009 | 0,154 | 0,018 | 0,003 |
2010 | 0,181 | 0,013 | 0,003 |
2011 | 0,121 | 0,004 | 0,002 |
2012 | 0,205 | 0,005 | 0,002 |
Примечание - Прочерк означает отсутствие данных, либо малое количество. |
Таблица Д.2
Модули притока растворенных химических веществ
в пункте ст. Раздорская
Год | Модуль притока химических веществ, т/км2 в год |
ЛООВ | азота аммонийного | нефтепродуктов |
1999 | 0,150 | - | 0,008 |
2000 | 0,122 | - | 0,004 |
2001 | 0,081 | - | 0,004 |
2002 | 0,088 | - | 0,004 |
2003 | 0,130 | 0,013 | 0,005 |
2004 | 0,151 | 0,090 | 0,007 |
2005 | 0,237 | 0,010 | 0,008 |
2006 | 0,154 | 0,015 | 0,005 |
2007 | 0,128 | 0,013 | 0,006 |
2008 | 0,143 | 0,012 | 0,003 |
2009 | 0,126 | 0,019 | 0,003 |
2010 | 0,159 | 0,014 | 0,004 |
2011 | 0,103 | 0,005 | 0,002 |
2012 | - | - | - |
Примечание - Прочерк означает отсутствие данных, либо малое количество. |
Таблица Д.3
Модули притока растворенных химических веществ
в пункте г. Ростов-на-Дону
Год | Модуль притока химических веществ, т/км2 в год |
ЛООВ | азота аммонийного | нефтепродуктов |
1999 | 0,177 | 0,020 | 0,006 |
2000 | 0,126 | 0,014 | 0,005 |
2001 | 0,141 | 0,010 | 0,006 |
2002 | 0,141 | 0,011 | 0,007 |
2003 | 0,191 | 0,007 | 0,006 |
2004 | 0,186 | 0,002 | 0,008 |
2005 | 0,245 | 0,004 | 0,012 |
2006 | 0,235 | 0,005 | 0,006 |
2007 | 0,122 | 0,005 | 0,004 |
2008 | 0,123 | 0,006 | 0,002 |
2009 | 0,096 | 0,005 | 0,002 |
2010 | 0,101 | 0,004 | 0,002 |
2011 | 0,192 | 0,006 | 0,003 |
2012 | 0,197 | 0,002 | 0,001 |
Д.3 Для оценки антропогенной нагрузки в конкретном пункте наблюдений по модулю притока химических веществ выделяют модальный интервал значений показателя.
Для каждого показателя из всех значений, превышающих верхнюю границу модального интервала, выделяют минимальное и максимальное значения. Интервал этих значений (максимальных значений модуля притока) сравнивают с критериями оценки, приведенными в
таблице 3, и определяют антропогенную нагрузку в конкретном пункте реки.
По длине р. Дон антропогенная нагрузка по притоку ЛООВ и нефтепродуктов оценивается как малая, а по притоку азота аммонийного колеблется от малой до умеренной
(таблица Д.4).
Таблица Д.4
Антропогенная нагрузка по показателю модуля притока
химических веществ на разных участках р. Дон
Пункт наблюдений | Антропогенная нагрузка |
ЛООВ | азота аммонийного | нефтепродуктов |
г. Константиновск | Малая | Малая | Малая |
ст. Раздорская | Малая | Малая с переходом в умеренную | Малая |
г. Ростов-на-Дону | Малая | Малая | Малая |
Д.4 Анализ на однородность выборок рассчитанных значений модулей притока химических веществ проводят для каждой выборки по коэффициенту вариации, по величине которого делается заключение о степени однородности выборки согласно
приложению Б.
Таблица Д.5
Характеристика выборок значений модулей притока растворенных
химических веществ по длине р. Дон
Пункт наблюдений | Среднее арифметическое значений M, т/км2 в год | Стандартное отклонение выборки M, т/км2 в год | Коэффициент вариации, % | Степень однородности выборки |
ЛООВ (по БПК5) |
г. Константиновск | 0,169 | +/- 0,050 | 28 | Достаточно однородная |
ст. Раздорская | 0,136 | +/- 0,040 | 29 | Достаточно однородная |
г. Ростов-на-Дону | 0,162 | +/- 0,050 | 29 | Достаточно однородная |
Азот аммонийный |
г. Константиновск | 0,011 | +/- 0,004 | 39 | Недостаточно однородная |
ст. Раздорская | 0,012 | +/- 0,004 | 35 | Достаточно однородная |
г. Ростов-на-Дону | 0,007 | +/- 0,005 | 69 | Абсолютно неоднородная |
Нефтепродукты |
г. Константиновск | 0,005 | +/- 0,003 | 67 | Абсолютно неоднородная |
ст. Раздорская | 0,005 | +/- 0,002 | 41 | Недостаточно однородная |
г. Ростов-на-Дону | 0,005 | +/- 0,003 | 61 | Абсолютно неоднородная |
Д.5 Определение статистических критериев для сопоставления выборок на наличие или отсутствие статистически значимых отличий. Согласно данным, представленным в
таблице Д.5, сравнение выборок значений модулей притока:
- ЛООВ следует осуществлять с применением t-критерия Стьюдента, поскольку выборки достаточно однородны;
- азота аммонийного в пункте г. Ростов-на-Дону и нефтепродуктов в пунктах г. Константиновск и г. Ростов-на-Дону абсолютно неоднородны, поэтому их сравнение должно осуществляться по критерию Вилкоксона;
- азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская недостаточно однородны для сравнения по критерию Стьюдента, поэтому для них проводится дополнительный анализ на наличие промахов согласно
приложению Б, при исключении которых выборка данных может стать достаточно однородной. Результаты проверки выборок на наличие промахов значений приведены в
таблице Д.6.
Таблица Д.6
Статистические характеристики проверки выборок значений
модулей притока химических веществ на наличие промахов
Статистические характеристики выборок значений концентраций |
азота аммонийного (г. Константиновск) | нефтепродуктов (ст. Раздорская) |
n = 10 | n = 13 |
xn+1 = 0,018 мг/дм3 | xn+1 = 0,008 мг/дм3 |
xn = 0,015 мг/дм3 | xn = 0,008 мг/дм3 |
| |
| |
При уровне значимости p < 0,05 критерий

при n = 10 равен 1,5, а при n = 13 равен 1,3 (используется критерий

при n = 20, см.
Б.5), следовательно, нулевая гипотеза об ошибочности результата и исключении крайней варианты из выборки не принимается ни в одном из рассмотренных случаев.
Таким образом, выборки значений модулей притока азота аммонийного в пункте г. Константиновск и нефтепродуктов в пункте ст. Раздорская не содержат промахов, которые можно было бы исключить, и считаются неоднородными. Статистический анализ такой выборки должен осуществляться с применением критерия Вилкоксона.
Д.6 Сопоставление выборок значений модулей притока химических веществ проводится с применением выбранных статистических критериев (см.
Д.5) и алгоритму, приведенному в
приложении Б.
Промежуточные данные расчета t
факт для сравнения выборок значений модулей притока ЛООВ в пунктах г. Константиновск и ст. Раздорская представлены в
таблице Д.7; для пунктов ст. Раздорская и г. Ростов-на-Дону - в
таблице Д.8.
Таблица Д.7
Промежуточные данные для расчета t
факт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары | Год | Значение модуля притока ЛООВ, т/км2 в год | Разность значений показателя | Квадрат разности значений показателя |
г. Константиновск (xi) | ст. Раздорская (yi) |
1 | 1999 | 0,246 | 0,150 | 0,096 | 0,00438 |
2 | 2000 | 0,165 | 0,122 | 0,043 | 0,00017 |
3 | 2001 | 0,109 | 0,081 | 0,028 | 0,00000 |
4 | 2002 | 0,124 | 0,088 | 0,036 | 0,00004 |
5 | 2003 | 0,132 | 0,130 | 0,002 | 0,00078 |
6 | 2004 | 0,134 | 0,151 | -0,017 | 0,00219 |
7 | 2005 | 0,269 | 0,237 | 0,032 | 0,00000 |
8 | 2006 | 0,195 | 0,154 | 0,041 | 0,00012 |
9 | 2007 | 0,146 | 0,128 | 0,018 | 0,00014 |
10 | 2008 | 0,184 | 0,143 | 0,041 | 0,00012 |
11 | 2009 | 0,154 | 0,126 | 0,028 | 0,00000 |
12 | 2010 | 0,181 | 0,159 | 0,022 | 0,00006 |
13 | 2011 | 0,121 | 0,103 | 0,018 | 0,00014 |
14 | 2012 | 0,205 | - | - | - |
Примечание - Прочерк означает отсутствие данных, либо малое количество. |
Таблица Д.8
Промежуточные данные для расчета t
факт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары | Год | Значение модуля притока ЛООВ, т/км2 в год | Разность значений показателя | Квадрат разности значений показателя |
ст. Раздорская (xi) | г. Ростов-на-Дону (yi) |
1 | 1999 | 0,150 | 0,177 | -0,027 | 0,00001 |
2 | 2000 | 0,122 | 0,126 | -0,004 | 0,00038 |
3 | 2001 | 0,081 | 0,141 | -0,060 | 0,00134 |
4 | 2002 | 0,088 | 0,141 | -0,053 | 0,00088 |
5 | 2003 | 0,130 | 0,191 | -0,061 | 0,00141 |
6 | 2004 | 0,151 | 0,186 | -0,035 | 0,00013 |
7 | 2005 | 0,237 | 0,245 | -0,008 | 0,00024 |
8 | 2006 | 0,154 | 0,235 | -0,081 | 0,00332 |
9 | 2007 | 0,128 | 0,122 | 0,006 | 0,00086 |
10 | 2008 | 0,143 | 0,123 | 0,020 | 0,00188 |
11 | 2009 | 0,126 | 0,096 | 0,030 | 0,00285 |
12 | 2010 | 0,159 | 0,101 | 0,058 | 0,00662 |
13 | 2011 | 0,103 | 0,192 | -0,089 | 0,00431 |
14 | 2012 | - | 0,197 | - | - |
Примечание - Прочерк означает отсутствие данных, либо малое количество. |
Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0299; сумма квадратов разностей значений показателя составляет 0,0082. По данным, представленным в
таблице Д.7, рассчитанные по
формулам Б.5 и
Б.6 стандартная ошибка разностей значений D и стандартное отклонение выборки разностей значений D равны 0,0260 и 0,0072, соответственно.
Фактическое значение критерия, t
факт составляет 4,12. Теоретическое значение критерия t
теор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см.
таблицу В.2).
Таким образом, 4,12 > 2,18, то есть tфакт > tтеор, следовательно, принимается альтернативная гипотеза о наличии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает неравномерную антропогенную нагрузку по модулю притока ЛООВ.
С учетом того, что значение среднего арифметического значений модуля притока ЛООВ в пункте г. Константиновск (0,166 т/км2 в год) превышает аналогичную величину в пункте ст. Раздорская (0,136 т/км2 в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.
Среднее значение разностей значений показателя модуля притока химических веществ равно 0,0233; сумма квадратов разностей значений показателя составляет 0,0242. По данным, представленным в
таблице Д.8, рассчитанные по
формулам Б.5 и
Б.6 стандартная ошибка разностей значений модуля притока ЛООВ и стандартное отклонение выборки разностей значений показателя равны 0,0449 и 0,0124, соответственно.
Фактическое значение критерия, t
факт составляет 1,87. Теоретическое значение критерия t
теор при уровне значимости p < 0,05 и числе степеней свободы k = 12 равно 2,18 (см.
таблицу В.2).
Таким образом, 1,87 < 2,18, то есть tфакт < tтеор, следовательно, принимается нулевая гипотеза об отсутствии систематических статистически значимых отличий между выборками значений модуля притока ЛООВ. Следовательно, на участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает равномерную антропогенную нагрузку по модулю притока ЛООВ.
Д.7 Сопоставление выборок значений модулей притока азота аммонийного осуществляется с использованием критерия Вилкоксона (см.
Д.5) согласно
приложению Б.
Промежуточные данные расчета W
факт для сравнения выборок значений модулей притока азота аммонийного в пунктах г. Константиновск и ст. Раздорская представлены в
таблице Д.9; для пунктов ст. Раздорская и г. Ростов-на-Дону - в
таблице Д.10.
Таблица Д.9
Промежуточные данные для расчета W
факт
(в пунктах г. Константиновск и ст. Раздорская)
Номер пары | Год | Значение модуля притока азота аммонийного, т/км2 в год | Разность значений показателя | Ранг изменения, R | Знаковый ранг, Rz |
г. Константиновск (xi) | ст. Раздорская (yi) |
1 | 2003 | 0,010 | 0,013 | 0,003 | 5,5 | 5,5 |
2 | 2004 | 0,011 | 0,090 | 0,079 | 8 | 8 |
3 | 2005 | 0,010 | 0,010 | 0 | - | - |
4 | 2006 | 0,009 | 0,015 | 0,006 | 7 | 7 |
5 | 2007 | 0,014 | 0,013 | -0,001 | 2,5 | -2,5 |
6 | 2008 | 0,015 | 0,012 | -0,003 | 5,5 | -5,5 |
7 | 2009 | 0,018 | 0,019 | 0,001 | 2,5 | 2,5 |
8 | 2010 | 0,013 | 0,014 | 0,001 | 2,5 | 2,5 |
9 | 2011 | 0,004 | 0,005 | 0,001 | 2,5 | 2,5 |
Таблица Д.10
Промежуточные данные для расчета W
факт (в пунктах
ст. Раздорская и г. Ростов-на-Дону)
Номер пары | Год | Значение модуля притока азота аммонийного, т/км2 в год | Разность значений показателя | Ранг изменения, R | Знаковый ранг, Rz |
ст. Раздорская (xi) | г. Ростов-на-Дону (yi) |
1 | 2003 | 0,013 | 0,007 | -0,006 | 3 | -3 |
2 | 2004 | 0,090 | 0,002 | -0,088 | 9 | -9 |
3 | 2005 | 0,010 | 0,004 | -0,006 | 3 | -3 |
4 | 2006 | 0,015 | 0,005 | -0,01 | 6,5 | -6,5 |
5 | 2007 | 0,013 | 0,005 | -0,008 | 5 | -5 |
6 | 2008 | 0,012 | 0,006 | -0,006 | 3 | -3 |
7 | 2009 | 0,019 | 0,005 | -0,014 | 8 | -8 |
8 | 2010 | 0,014 | 0,004 | -0,01 | 6,5 | -6,5 |
9 | 2011 | 0,005 | 0,006 | 0,001 | 1 | 1 |
Согласно данным, приведенным в
таблице Д.9, сумма положительных рангов ("типичный сдвиг") равна 28, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 8.
Согласно данным
таблицы В.3 при p < 0,05 и n = 8 величина W
теор составляет 5. Таким образом, 8 > 5, то есть W
факт > W
теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон г. Константиновск - ст. Раздорская речная экосистема испытывает равномерную антропогенную нагрузку по данному показателю.
Согласно данным, приведенным в
таблице Д.10, сумма положительных рангов ("типичный сдвиг") равна 1, абсолютная величина по модулю суммы отрицательных рангов ("нетипичный сдвиг") равна 16.
Согласно данным
таблицы В.3 при p < 0,05 и n = 8 величина W
теор составляет 5. Таким образом, 1 < 5, то есть W
факт < W
теор, следовательно, принимается альтернативная гипотеза о наличии статистически значимых отличий в выборках значений модулей притока азота аммонийного между сравниваемыми пунктами. На участке р. Дон ст. Раздорская - г. Ростов-на-Дону речная экосистема испытывает неравномерную антропогенную нагрузку по данному показателю.
С учетом того, что медиана выборки значений модуля притока азота аммонийного в пункте ст. Раздорская (0,013 т/км2 в год) превышает аналогичную величину в пункте г. Ростов-на-Дону (0,005 т/км2 в год) можно заключить, что на данном участке антропогенная нагрузка снижается по длине водотока.
Д.8 Аналогично проводят сопоставление выборок значений модулей притока нефтепродуктов.
Согласно результатам, приведенным в
таблице Д.11 р. Дон от пункта г. Константиновск до пункта ст. Раздорская испытывает равномерную антропогенную нагрузку по значениям модулей притока нефтепродуктов.
Таблица Д.11
Результаты сравнения выборок значений модулей притока
нефтепродуктов по длине р. Дон
Пункт 1 | Пункт 2 | Wфакт | n' | Wтеор | Уровень значимости | Принимаемая гипотеза |
г. Константиновск | ст. Раздорская | 17 | 10 | 9 | p < 0,05 | Различия статистически не значимы |
ст. Раздорская | г. Ростов-на-Дону | 45 | 13 | 18 | p < 0,05 | Различия статистически не значимы |
Согласно данным
таблицы В.3 при p < 0,05 и n = 10 величина W
теор составляет 9. Таким образом, 17 > 5, то есть W
факт > W
теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами г. Константиновск и ст. Раздорская. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.
Согласно данным
таблицы В.3 при p < 0,05 и n = 13 величина W
теор составляет 18. Таким образом, 45 > 8, то есть W
факт > W
теор, следовательно, принимается нулевая гипотеза об отсутствии статистически значимых отличий в выборках значений модулей притока нефтепродуктов между пунктами ст. Раздорская и г. Ростов-на-Дону. На данном участке р. Дон испытывает равномерную антропогенную нагрузку по данному показателю.
[1] Хрусталев Ю.П. Эколого-географический словарь. - РГУ: Батайск, 2000. - 197 с.
[2] Венецкий И.Г., Венецкая В.И. Основные математико-статистические понятия и формулы в экономическом анализе. - М.: Статистика, 1979. - 440 с.
[3] Реймерс Н.Ф., Яблоков А.В. Словарь терминов и понятий, связанных с охраной живой природы. - М.: Наука, 1982. - 144 с.
[4] Дмитриев В.В., Фрумин Г.Т. Экологическое нормирование и устойчивость природных систем / Учебное пособие. - СПб.: Наука, 2004. - 294 с.
[5] Левич А.П., Булгаков Н.Г, Максимов В.Н. Теоретические и методические основы технологии регионального контроля природной среды по данным экологического мониторинга. - М.: НИА. - Природа, 2004. - 273 с.
[6] Сизова Т.М. Статистика: Учебное пособие. - СПб.: СПб ГУИТМО, 2005. - 80 с.
[7] Юдина А.В. Статистика: Учебное пособие. - Электронный учебник. Доступно по URL: http://abc.vvsu.ru/Books/statistika_up/default.asp
[8] Третьяк Л.Н. Обработка результатов наблюдений: Учебное пособие. - Оренбург: ГОУ ОГУ, 2004. - 171 с.
[9] Лакин Г.Ф. Биометрия: Учебное пособие для биол. спец. вузов - 4-е изд., перераб. и дополн. - М.: "Высшая школа", 1990. - 352 с.
[10] Дерффель. Статистика в аналитической химии. Под ред. Ю.П. Адлера. - М. "Мир", 1994. - 268 с.
[11] Гланц С. Медико-биологическая статистика. М.: "Практика", 1998. - 459 с.