Введение Применение машинного обучения приобретает актуальность в решении задач прогнозирования. Это связано с тем, что в ряде некоторых задач, таких как предсказание экономических и социальных процессов или осуществление прогноза погоды, зачастую становится сложно, а иногда и невозможно применить явный алгоритм. Упомянутые ранее процессы представляют собой сложные системы, в которых невозможно учесть все существующие факторы, влияющие на состояние или поведение системы. Разрешить эту проблему можно путем выявления некоей функциональной зависимости, выстраивая функцию, которую необходимо приближать к реальной функции сложной системы. Приближение осуществляется обучением на имеющихся парах входных и выходных параметров. Одним из эффективных методов обучения является бустинг, основной принцип которого заключается в использовании «слабых» алгоритмов прогнозирования в совокупности. В этот принцип заложена идея совместного использования слабых алгоритмов, что может дать более качественный прогноз в сравнении с использованием их по отдельности. Прогнозирование аварийных ситуаций Постановка задачи. В основе данного исследования лежит задача прогнозирования ава-рийных ситуаций в системах теплоснабжения. Как показывают исследования в этой области, чаще всего для этого применяют экспертные системы, которые основываются на опыте экспер-тов. Такие системы имеют преимущество, если применена эффективная методика формирова-ния экспертного мнения и подобрана «правильная» группа экспертов. Под «правильными» экс-пертами понимаются те эксперты, опыт которых приемлем для формирования экспертного мне-ния. Поэтому целесообразно применить машинное обучение в качестве инструмента прогнози-рования аварийных ситуаций в системах теплоснабжения. В качестве инструмента машинного обучения рассматривается градиентный бустинг [1–4]. Проблема аварийных ситуаций в системах теплоснабжения остается актуальной и на дан-ный момент. В первую очередь это связано с естественными процессами изнашивания трубо-проводов или воздействия внешней и внутренней среды. На рис. 1 показаны основные характе-ристики трубопровода, которые следует принять во внимание в рамках задачи прогнозирования. Рис. 1. Параметры трубопроводов, формирующие обучающую выборку Данные параметры можно классифицировать по следующему принципу: – группа характеристик источника теплоснабжения; – группа характеристик трубопровода; – группа характеристик химической очистки; – группа характеристик факторов внешней среды. Среди представленных ранее групп характеристик можно выделить третью группу, т. к. наличие химической очистки в системе теплоснабжения значительно уменьшает риск износа теплотрасс. Осуществление прогноза сводится к задаче восстановления функции в общем контенте обучения с учителем. Следует использовать градиентный бустинг. Он работает по следующему принципу: на первых итерациях используются слабые алгоритмы, затем наращиваем ансамбль постепенными улучшениями тех участков данных, где предыдущие модели «не доработали». Но при построении следующей простой модели она строится не просто на перевзвешенных наблюдениях, а так, чтобы лучшим образом приближать общий градиент целевой функции [5, 6]. Что касается модели прогнозирования предаварийных ситуаций, то ее можно представить следующим образом: М = {МП, ОВ, МА, МФП, ВИ}, где МП – входное множество параметров; МА – множество базовых алгоритмов, используемых в градиентном бустинге; ОВ – обучающая выборка; МФП – множество функций потерь; ВИ – выходная информация. Общая концепция данной задачи прогнозирования, с учетом применения машинного обу-чения, включает в себя следующие процессы (рис. 2): – инициализация и нормирование входных параметров; – осуществление прогноза в заданный временной интервал; – визуализация результата прогнозирования; – поддержка принятия решений. Рис. 2. Концептуальная схема прогнозирования и принятия решений В данной концепции следует уделить должное внимание процессу формирования базы данных, которая включает в себя обучающую и тестовую выбору. Правильное формирование этих множеств определяет результат прогнозирования. Метод градиентного бустинга. Решение проблемы прогнозирования осуществляется различными методами, в том числе и методом машинного обучения. Использование нейронных сетей или дерева решений позволяет на наборе пар входных и выходных параметров моделировать процессы. Поэтому решение проблемы прогнозирования сводится к использованию «хороших» входных и выходных параметров. Чем больше параметров можно использовать на входе, тем лучше будет происходить обучение модели, которое основывается на градиентном бустинге [7–13]. Градиентный бустинг может решать две задачи: задачу классификации и нахождения це-левой функции. В нашем случае это второй вариант. Нам необходимо осуществить восстанов-ление функции зависимости входных и выходных данных, указанных ранее. Имеется набор признаков x и результирующих переменных y, которые берутся из множества входных парамет-ров МП. Эти наборы формируют пару множеств, на котором будет обучаться алгоритм (ОВ), восстанавливая функциональную зависимость где xi – набор признаков; yi – результирующие переменные из МП. Восстановление происходит путем приближения но для определения наиболее приемлемого приближения необходимо ввести функцию потерь L(y, f). Задача сводится к мини-мизации функции потерь: Следует отметить, что прогнозирование происходит на основе имеющихся в распоряже-нии данных, и тогда Что касается подбора функции для решения задачи, следует ограничить поиск се-мейством функций с параметрами. Такой подход значительно упрощает реше-ние и сводится к решаемой минимизации параметров: Чтобы получить наиболее оптимальные параметры их необходимо будет приближать итеративно. Приближение и функция потерь нашей модели с учетом выполнения M раз (числа итераций) выглядит следующим образом: В качестве подходящего рабочего алгоритма для решения данной задачи следует исполь-зовать градиентный спуск. Суть его заключается в том, чтобы к градиенту добавить итерационные оценки . С учетом ранее обозначенных параметров алгоритм градиентного бустинга имеет сле-дующий вид: 1. Инициализировать начальное приближение параметров . 2. Для каждой итерации t = 1, …, M повторять: а) посчитать градиент функции потерь при текущем приближении б) задать текущее итеративное приближение на основе посчитанного градиента в) обновить приближение параметров : 3. Сохранить итоговое приближение Описание параметров градиентного бустинга. Чтобы определить, какие составляющие необходимы для решения задачи прогнозирования, необходимо перейти к оптимизации в функ-циональном пространстве. Тогда приближение следует искать в виде самих функций. Чтобы решить задачу прогнозирования, необходимо ограничивать поиск группой функций . Таким образом, для работы алгоритма необходимо иметь: – набор данных – число итераций M; – выбор функции потерь L(y, f) с выписанным градиентом; – выбор семейства функций базовых алгоритмов с процедурой их обучения; – дополнительные гиперпараметры например глубина дерева у деревьев решений. Набор данных обучающей выборки ОВ представляет собой набор параметров участка тепловых сетей, а также параметр, определяющий возникновение аварии. Что касается выбора семейства функций базовых алгоритмов, для прогнозирования могут быть применены следу-ющие алгоритмы: – линейная регрессия; – логистическая регрессия; – дерево решений. Применение градиентного бустинга для прогнозирования аварийных ситуаций на участках тепловых сетей позволяет на ранних этапах исследования решить задачу классификатора (классификация: авария/не авария) и (при более подробных данных yi) задачу восстановления целевой функции. Заключение Таким образом, в рамках поставленной задачи была определена общая концепция прогно-зирования, которая включает в себя немаловажные для машинного обучения этапы. Разработана модель, учитывающая необходимые составляющие алгоритма прогнозирования популяционного процесса. В качестве подхода к прогнозированию был выбран бустинг, основанный на гради-ентном спуске. В данном случае градиентный бустинг рассматривается в контексте решения задачи регрессии, т. е. осуществления поиска функциональной зависимости между парой мно-жеств входных и выходных данных.