Саратовская область, Россия
Саратовская область, Россия
УДК 004.4 Программные средства
УДК 004.421 Алгоритмы составления программ
УДК 519.685 Автоматизация программирования
Разработка искусственных интеллектуальных систем обычно требует от разработчика огромных затрат времени и усилий для их снабжения малой долей возможностей биологических прототипов. Построение моделей знаний интеллектуальных систем является наиболее сложным и длительным процессом. Применение принципов биологических систем призвано ускорить прогресс в этом направлении. Биологические системы обладают эффективными способностями обучения и, главное, самообучения с формированием навыков и умений, быстрое применение которых помогает им выживать в агрессивной внешней среде. Нейросетевые механизмы памяти и принятия решений способны к самоорганизации, перестроению нейронных структур на основе накопления знаний в изменяющихся условиях внешней среды. Организация памяти на основе адаптивного нейрона, способного самостоятельно подстраивать соотношение между различными комбинациями различных сигналов, поступающих на входы, и различными по форме и уровню сигналами на выходе, позволяет даже в одном элементе нейронной структуры мозга запоминать большие объемы относительно «простой» информации. При взаимодействии с другими нейронами устанавливаются структурные взаимосвязи между комбинациями элементарной информации, формируя опыт, навыки, умения, обобщение которых приводит к появлению знаний. Снабжение искусственных интеллектуальных систем способностями к самообучению должно качественно изменить процесс их построения. Предложен подход к совершенствованию самоорганизующихся систем управления, основанный на использовании принципов биологических систем, многоуровневой памяти, механизмов структуризации и обобщения. Простейшим примером воплощения этих принципов является использование планов решения «простых» задач в качестве составных частей планов решения более сложных задач. Применение структуризации, обобщения, аксиоматизации решений известных задач позволяет создавать новые знания, которые затем могут быть использованы при решении новых задач. Предложен алгоритм решения задач, основанный на использовании многоуровневой памяти, структуризации, обобщения и аксиоматизации процедурных знаний. Рассмотрен пример решения декларативно поставленной задачи с использованием самообучения, демонстрирующий эффективность предложенного подхода.
самообучение, самоорганизация, планирование действий, многоуровневое представление знаний, интеллектуальные системы, автоматическое решение задач
Введение
Создание интеллектуальных систем обусловлено необходимостью обеспечения эффективного функционирования в столь сложных, изменяющихся условиях, когда автоматические системы, разрабатываемые традиционными методами, не могут обеспечить требуемые показатели точности и качества [1]. Однако возможности современных систем, относимых к интеллектуальным, ограничены и определяются не только формализованными описаниями окружающего мира, которые называют не вполне заслуженно знаниями, но и методами, заложенными разработчиком для их обработки в процессе решения поставленных задач [1]. Искусственные интеллектуальные системы (ИИС), построенные на основе искусственной нейронной сети, обычно решают задачи классификации, распознавания, аппроксимации [2, 3], что обеспечивается предварительным длительным обучением различными методами [4–6] на больших множествах примеров. При этом ИИС, построенные на основе формальных логических систем, сетевых моделей представления знаний [1], позволяют решать задачи в рамках имеющейся модели знаний [7]. Как следствие, современные ИИС способны решать задачи предопределенного класса в рамках имеющейся модели мира [8, 9]. При этом и постановка задачи должна строго соответствовать установленным правилам, шаблонам, заданным разработчиком. Появление задач других классов или в другой форме приводит к большим ошибкам или к отказу от решения.
«Живые» примеры биологических систем демонстрируют поразительные способности решения задач различных классов в различных формах представления. Этому, по-видимому, способствует использование нейросетевых структур мозга биологических систем, способных устанавливать новые связи между нейронами при наличии выявляемых взаимосвязей между определенными понятиями (сущностями, образами, фактами) в окружающем фактическом или гипотетически построенном виртуальном мире.
Организация памяти на основе адаптивного нейрона, способного самостоятельно подстраивать соотношение между различными комбинациями различных сигналов, поступающих на входы, и различными по форме и уровню сигналами на выходе, позволяет даже в одном элементе нейронной структуры мозга запоминать большие объемы относительно «простой» элементарной информации. Благодаря наличию взаимодействия как с соседними, так и с другими нейронами реализуются механизмы установления взаимосвязей между различными комбинациями элементарной информации, что создает информационные структуры (структурированное представление информации). Так формируются опыт, навыки, умения, а результат их обобщения приводит к появлению знаний.
Примером формализации указанных принципов может служить обучение Хэбба [10–13]. При этом биологические системы применяют эффективные механизмы (процедуры) решения как типовых, так и новых задач. Основу этих механизмов составляют [14–16] планирование действий, моделирование их выполнения, сопоставление результатов моделирования с требуемыми результатами, принятие полученного решения или построение новой программы действий [7]. Успешно решенная задача приводит к установлению новых связей между нейронами, представляющими задачи, и нейронами, представляющими действия по их решению. Так формируются новые знания, способствующие интеллектуальной системе адаптироваться в изменчивой внешней среде. Преимущество способностей биологических систем обусловлено использованием многоуровневых представлений знаний, в которых данные и операции, задачи и цели размещены на различных уровнях разных «подмоделей знаний», представляемых различными нейронными ансамблями (нейронными алгоритмическими структурами). Указанный способ организации нейросетевых структур решения задач позволяет биологическим системам при решении каждой конкретной задачи осуществлять поиск решения в рамках конкретной модели знаний обозримого объема, получая решение за разумное время, достаточное для принятия адекватного решения в агрессивной внешней среде [17]. Таким образом, формируемая биологическими системами нейросетевая модель окружающего мира, в котором им приходится решать задачи, непрерывно совершенствуется, что позволяет расширять классы решаемых задач по мере их возникновения. Подобные системы принято называть самоорганизующимися [1]. Вычислительная сложность методов решения декларативно поставленных задач ИИС обусловливает необходимость проведения исследований для повышения их эффективности, создания подходов, основанных на новых принципах. Указанные способности различной степени глубины демонстрируют биологические системы различной степени сложности своей организации, что позволяет говорить о наличии всеобщих для всех биологических систем принципов построения систем решения задач. Среди этих принципов, по-видимому, одним из важнейших, обеспечивающих формирование, накопление и корректировку знаний, является принцип самообучения на основе многоуровневой организации памяти, создающей условия для масштабирования функциональных возможностей по объемам накапливаемых структурированных знаний и адекватных механизмов их обработки для решения задач за время, позволяющее биологическим системам принимать разумные решения выживания в агрессивной окружающей среде.
Цель исследования заключается в разработке подхода к созданию системы автоматического решения задач, обладающей способностями к самоорганизации на основе самообучения, обеспечивающими возможности автоматической настройки на обобщенные классы задач посредством использования многоуровневой организации памяти, автоматического формирования и корректировки взаимосвязанных компонентов многоуровневого представления знаний.
Задача исследования заключается в разработке алгоритма самообучения решателя задач интеллектуальной системы, использующего принципы самоорганизации биологических систем на основе использования многоуровневых моделей представления знаний интеллектуальных систем для обеспечения возможности решения новых непроцедурно (декларативно) поставленных задач на основе знаний о методах проблемной области.
Метод самоорганизации нейросетевого решателя на основе самообучения
Изложение предлагаемого подхода и его исследование осуществим на примере предметной области построения интеллектуальных систем автоматического управления [18, 19]. Отличительной особенностью предлагаемого подхода к самообучению, самоорганизации интеллектуального решателя задач [20] является использование иерархически связанных планирующих искусственных нейронных сетей (ПИНС) [15, 16], перестраиваемых в соответствии с изменениями модели знаний, осуществляемыми в процессе самоорганизации в результате самообучения в соответствии с принципами работы биологических систем.
Алгоритм самообучения предлагаемого подхода к самоорганизации решателя задач осуществляет формирование алгоритмических конструкций многоуровневого представления знаний ИИС:
– «опыт» в виде построенного плана решения задачи, сохраняемого в кратковременной (оперативной) памяти. Действенность указанного опыта подтверждена при решении задачи применением плана (программы) ее решения;
– «умение» как аксиоматизированный «опыт», формируемый созданием аксиом модели знаний с атрибутами ранее неоднократно решенной задачи и сохраняемый в долговременной памяти. Указанные аксиомы новых «умений» дополняют модель знаний ИИС после проверки на непротиворечивость. Затем модифицированная модель знаний используется для корректировки (перестройки) нейросетевых структур решателя задач.
Таким образом, предлагаемый подход к самообучению нейросетевого решателя задач, заключающийся в корректировке формализованной модели знаний ИИС, представляет собой возможный механизм самоорганизации ИИС, основанный на обобщении накопленного в кратковременной памяти «опыта» решения задач в аксиоматизированные в долговременной памяти «умения» многоуровневого нейросетевого представления знаний, что, возможно, соответствует механизмам самообучения биологических систем.
Алгоритм самообучения решателя задач
1. Определение цели системы (целеполагание) G(t) = OG(S(t), F(t)), где G(t) – цель; t – время; OG(×) – операция целеполагания; S(t) – состояние системы; F(t) – внешние воздействия.
2. Постановка задачи Z = < GZ, PZ, DZ, RZ, TZ > = OZ (G(t), S(t), F(t)), где GZ – цель решения задачи как обобщенный искомый результат; PZ – план решения задачи; DZ – исходные данные задачи; RZ – искомый результат решения задачи; TZ – требования к искомому результату решения задачи; OZ(×) – операция формирования постановки задачи. Если Z = Æ, то идти к п. 1.
3. Распределение (декомпозиция) задачи Z на множество подзадач Zi = {zij} по подсистемам Ai (агентам) Zi = Z(Ai) = {zij} = OD (Z(t), Mi(t), G(t), S(t), F(t)), "iÎ(1, nA), "jÎ(1, ni), где OD – операция декомпозиции; zij – j-я подзадача множества задач Zi, поставленных перед подсистемой (агентом) Ai ИИС; Mi – знания (модель знаний) подсистемы Ai; nA – количество подсистем; ni – количество задач i-й подсистемы. Если ÈZi = Æ, то отказ (задача Z помечается «нерешаемой»), идти к п. 2.
4. Построение агентами Ai планов действий для решения задач Zi: P(Zi) = {P(zij)} = OP (Zi, Mi, Z, G), "iÎ(1, nA) процедурой планирования OP .
5. Моделирование выполнения на моделях знаний Mi агентами Ai множества планов P(Zi) решения множества задач Zi ={zij} на основе процедуры OM моделирования "i Î(1, nA), "jÎ(1, ni) < GijM (zij), RijM (zij) > = OM (P(zij), Mi, S(t), F(t)), RiM (Zi) = È RijM (zij), GiM (Zi) = È GijM (zij), где индекс XM является признаком, что результат Х является модельным (гипотетическим), т. к. получен посредством моделирования исполнения плана решения задачи.
6. Оценка возможности достижения целей решения поставленных задач eijM = T(zij) = r(< GijM (zij), RijM (zij) >, < Gi(zij), Ri(zij) >), eiM = supj(eijM), где r(x, y) – мера близости x и y.
Если eiM £ ei, где ei – допустимое значение погрешности (ошибки) решения задач Zi, то сохранение в «оперативной памяти» решения задач zij "jÎ(1, ni) как «опыт» в виде, применяемом при записи продукционных правил: < имя аксиомы (правила) > : < условия применимости > → < исходные данные > Þ < искомый результат > ¬ < требования к искомому результату >: Azij : C(zij) ® D(zij), S(t), F(t) Þ R(zij), G(zij) ¬ T(zij), где D(zij) Í Í D(Z), R(zij) Í R(Z), G(zij) Í G(Z), T(zij) Í T(Z), где Azij – имя создаваемой в оперативной (кратковременной памяти) аксиомы, описывающей успешный «опыт» решения задачи zij; D(zij) – исходные данные задачи zij, R(zij) – искомый результат, C(zij) – условия применимости аксиомы и T(zij) – требования к искомым результатам задачи, которые могут отсутствовать. Идти к п. 7.
Иначе блокирование решения задачи zij, не обеспечивающей достижение требований T(zij) в виде создаваемой в оперативной (кратковременной памяти) аксиомы, описывающей негативный «опыт» решения задачи zij, Azij: C(zij) ® D(zij), S(t), F(t) Þ R(zij), G(zij) ¬ ~T(zij), где «~» – символ отрицания (логическое НЕ). Идти к п. 3.
7. Исполнение планов P(Zi) решения задач
Zi = {zij} "iÎ(1, nA), "jÎ(1, ni) < GijР(zij), RijР(zij) > = = OИ(P(zij), Mi, S(t), F(t)), RiР(Zi) = È RijР(zij), GiР(Zi) = = È GijР(zij), где индекс XР является признаком, что результат Х является полученным в процессе реального (фактического) исполнения агентом Ai плана действий P(zij) решения задачи zij.
8. Оценка достижения целей решения задач Zi = {zij} "iÎ(1, nA), "jÎ(1, ni) eijР = r(< GijР(zij), RijР(zij) >, < Gi(zij), Ri(zij) >), eiР = supj(eijP), e = supi(eiP).
Если eiР < ei, то преобразование «опыта» в «умения» (перенос аксиом в «долговременную память»).
Иначе идти к п. 2.
9. Оценка достижения глобальной цели. Если
e < e, то формирование аксиомы Az: C(Z) ® D(Z), S(t), F(t) Þ R(Z), G(Z) ¬ T(Z). Конец.
Иначе идти к п. 1.
Основная идея предлагаемого подхода к самоорганизации c использованием многоуровневой памяти, включающей кратковременную память «опыта решения задач» и долговременную память «умений ранее неоднократно решенных задач» в ИИС может быть проиллюстрирована на модельном примере планирования действий при решении новых задач при наличии обобщенного (аксиоматизированного) в «умения» ранее полученного «опыта» решения задач.
Решение модельного примера
Рассмотрим пример самообучения подсистемы Ai решателя задач ИИС на основе опыта решения задач. Для описания примера введем следующие обозначения: Д – действие (операция), О – отношение, С – свойство, Х – характеристика, Ф – форма математической модели, & – конъюнкция (логическое И), «~» – отрицание (логическое НЕ).
Формат текстового описания задач и действий модели знаний (выражение в квадратных скобках [x] является необязательным, т. е. может отсутствовать).
Формат описания задачи на модели знаний:
<Данные> ® <Результат> [¬ <Требования к результату>]
Формат описания действия (аксиомы) модели знаний Mi подсистемы Ai:
<Имя действия>: [<Условия>] ® <Данные> Þ <Результат> [¬ <Требования к результату>]
Аксиоматика модели знаний Mi рассматриваемого примера:
Д1: ® Ф1, Ф2 Þ С1
Д2: ® Ф1, Ф2, Ф5 Þ С2
Д3: ® Ф1, Ф2 Þ С3
Д4: ~С2 ® Ф1, Ф5 Þ Х1
Д5: С1&С2 ® Ф4, Ф5 Þ Ф3
Д6: ~С1&С2 ® Ф4, Ф5 Þ Ф3
Д7: С1&~С2 ® Х1, Ф4, Ф5 Þ Ф3
Д8: ~С1&~С2 ® Х1, Ф4, Ф5 Þ Ф3
Д9: С3® Ф1, Ф2 Þ Ф5
Д10: ® Ф1, Ф2, Ф5 Þ Ф4 ¬ О2
Д11: ® Ф1, Ф2, Ф3 Þ О1
Д12: ® Ф1, Ф2, Ф4, Ф5 Þ О2
Задача 1 (Z1):
Z1: Ф1, Ф2 ® Ф3 ¬ О1
Задача 2 (Z2):
Z2: Ф1, Ф2 ® Ф4, Ф5 ¬ О2
Решение задачи 1 (план P(Z1) из 12 действий как множество действий, описываемых аксиомами модели знаний, подлежащих выполнению для решения задачи 1):
Д1: ® Ф1, Ф2 Þ С1
Д3: ® Ф1, Ф2 Þ С3
Д9: С3 ® Ф1, Ф2 Þ Ф5
Д10: ® Ф1, Ф2, Ф5 Þ Ф4 ¬ О2
Д12: ® Ф1, Ф2, Ф4, Ф5 Þ О2
Д2: ®Ф1, Ф2, Ф5 Þ С2
Д4: ~С2 ® Ф1, Ф5 Þ Х1
Д5: С1&С2® Ф4, Ф5 Þ Ф3
Д6: ~С1&С2® Ф4, Ф5 Þ Ф3
Д7: С1&~С2® Х1, Ф4, Ф5 Þ Ф3
Д8: С1&~С2® Х1, Ф4, Ф5 Þ Ф3
Д11: ® Ф1, Ф2, Ф3 Þ О1
Решение задачи 2 (Z2) (план P(Z2) из 4 действий):
Д3: ®Ф1, Ф2 Þ С3
Д9: С3® Ф1, Ф2 Þ Ф5
Д10: ®Ф1, Ф2, Ф5 Þ Ф4 ¬ О2
Д12: ®Ф1, Ф2, Ф4, Ф5 Þ О2
Обобщим решение задачи 2 (Z2) в «опыт», а затем в «умение» в виде действия (аксиомы):
Д13: ® Ф1, Ф2 Þ Ф4, Ф5 ¬ О2
План решения задачи 1 (Z1) с учетом умения Д13 включает 9 действий и дает дополнительно экономию времени решения (планирования действий) в 30 %:
Д1: ® Ф1, Ф2 Þ С1
Д13: ® Ф1, Ф2 Þ Ф4, Ф5 ¬ О2
Д2: ® Ф1, Ф2, Ф5 Þ С2
Д4: ~С2® Ф1, Ф5 Þ Х1
Д5: С1&С2® Ф4, Ф5 Þ Ф3
Д6: ~С1&С2® Ф4, Ф5 Þ Ф3
Д7: С1&~С2® Х1, Ф4, Ф5 Þ Ф3
Д8: ~С1&~С2® Х1, Ф4, Ф5 Þ Ф3
Д11: ® Ф1, Ф2, Ф3 Þ О1
Результаты и обсуждение
Модельный пример решен в системе автоматического решения задач ИНСТРУМЕНТ-4, являющейся дальнейшим развитием системы ИНСТРУМЕНТ-3м-И [15], которая обладает нейросетевым решателем задач на основе ПИНС и разрабатывалась для автоматизации решения задач построения законов (алгоритмов) управления систем автоматического управления.
Система ИНСТРУМЕНТ-4 представляет собой распределенную мультиагентную информационную систему, в которой подсистемы планирования действий, исполнения планов решения задач, баз данных и знаний реализованы в виде отдельных серверных приложений, а пользовательский интерфейс представлен в виде клиентского приложения.
Для обеспечения возможности решения декларативно поставленных задач в составе системы ИНСТРУМЕНТ-4 имеется база знаний, в которой базовая модель знаний ориентирована на автоматическое решение задач проектирования линейных непрерывных и дискретных алгоритмов управления объектами управления, описываемыми линейными обыкновенными дифференциальными уравнениями, а также моделирования замкнутой системы с учетом наличия нелинейностей, нестационарности и параметрической неопределенности объекта управления. Система ИНСТРУМЕНТ-4 предоставляет инженерам-проектировщикам систем управления в пользовательском интерфейсе «Среда инженера» возможности автоматического решения задач в декларативной постановке на основе моделей знаний, разрабатываемых учеными-исследователями. Работа со знаниями реализована в пользовательском интерфейсе «Среда исследователя», которая предоставляет ученым-исследователям возможности создания моделей знаний и их тестирования на модельных задачах. Для обеспечения возможности использования инженерами-проектировщиками моделей знаний, разработанных учеными-исследователями, в «Среде исследователя» предусмотрена возможность задания реализации действий, описываемых аксиомами моделей знаний. Указанная реализация действий осуществляется в виде программного модуля на языке С++, оформляемого по предлагаемому шаблону и размещаемого в библиотеке динамической загрузки инженером-программистом под руководством ученого-исследователя. Поскольку в сообществе ученых-исследователей (специалистов в области автоматического управления) популярно использование пакета Matlab, то в системе ИНСТРУМЕНТ-4 допускается также использование реализации действий, описываемых аксиомами моделей знаний в виде программ на Matlab-подобном языке, что позволяет ученым-исследователям самостоятельно без привлечения инженеров-программистов расширять классы решаемых задач.
На рис. 1, 2 представлены изображения экранных форм «Среды исследователя», иллюстрирующие решение задач 1 и 2, а также решение задачи 1 с учетом дополнительного действия Д13, представляющего собой «умение», аксиоматизированное на основе «опыта» решения задачи 2, протокол решения указанных задач представлен на вкладке «Планирование» экранной формы «Среды исследователя».
а
б
Рис. 1. Протокол решения задач: а – задачи 1; б – задачи 2
Fig. 1. Task solution protocol: а – tasks 1; б – tasks 2
а
б
Рис. 2. Протокол решения задачи 1 на скорректированной модели знаний:
а – протокол планирования действий; б – построенный план решения задачи
Fig. 2. Protocol for solving problem 1 based on the adjusted knowledge model:
а – protocol for planning actions; б – a constructed plan for solving the problem
Показана эффективность предлагаемого подхода к обучению планирующей подсистемы решателя задач на примере решения модельной задачи. Экономия времени решения задачи после самообучения составила 30 % (результат сопоставления – см. рис. 1 и 2: 100 мс и 70 мс).
Заключение
Способности запоминать, накапливать опыт и умения позволяют биологическим системам обеспечить выживаемость во враждебной среде обитания. Самоорганизация технических систем нацелена на обеспечение возможностей достижения целей не только в нормальных, но и в экстремальных условиях. Использование самообучения, иерархических механизмов памяти повышает эффективность самоорганизации. Разработанный алгоритм решения задач самоорганизующейся системой управления включает самообучение подсистемы планирования действий. Эффективность предлагаемого подхода демонстрируется решением модельной задачи на модели знаний в системе автоматизации решения задач. Дальнейшие исследования посвящены развитию предложенного подхода в направлении автоматического решения декларативно поставленных задач итерационными методами, что требует способности порождения циклически выполняемых планов действий.
1. Искусственный интеллект: справ.: в 3-х кн. / под ред. Д. А. Поспелова. М.: Радио и связь, 1990. Кн. 1. 464 с. Кн. 2. 304 с. Кн. 3. 368 с.
2. O’Reilly R., Munakata Y., Frank M. J., Hazy T. E. Computational Cognitive Neuroscience. Online Book. 2020. 185 p. URL: https://www.researchgate.net/profile/Randall-Oreilly/publication/233822187_Computational_Exploration_in_Cognitive_Neuroscience/links/606e18dd92851c8a7baf2f98/Computational-Exploration-in-Cognitive-Neuroscience.pdf (дата обращения: 12.06.2025).
3. Hassabis D., Kumaran D., Summerfield C., Botvinic M. Neuroscience-Inspired Artificial Intelligence // Neuron. 2017. V. 95. N. 2. P. 245–258. DOI:https://doi.org/10.1016/j.neuron.2017.06.011.
4. Botteghi N. Robotics deep reinforcement learning with loose prior knowledge. Enschede: University of Twente, 2021. 239 p.
5. Goodfellow I., Bengio Y., Courville A. Deep learning. MIT Press, 2016. V. 1. 800 p.
6. Pateria S., Subagdja B., Tan A., Quek C. Hierarchical Reinforcement Learning: A Comprehensive Survey // ACM Computing Surveys. 2021. V. 54 (5). P. 1–35. DOI:https://doi.org/10.1145/3453160.
7. Анохин П. К. Принципиальные вопросы общей теории функциональных систем // Принципы системной организации функций. М.: Наука, 1973. С. 5–61.
8. Hafner D., Pasukonis J., Ba J., Lillicrap T. Mastering diverse domains through world models // arXiv preprint arXiv:2301.04104. 2023. URL: https://arxiv.org/abs/2301.04104 (дата обращения: 12.06.2025).
9. Dzhivelikian E., Latyshev A., Kuderov P., Panov A. Hierarchical intrinsically motivated agent planning behavior with dreaming in grid environments // Brain Informatics. 2022. V. 9. N. 1. P. 8. URL: https://doi.org/10.1186/s40708-022- 00156-6 (дата обращения: 12.06.2025).
10. Hebb D. O. The organization of behavior: A neuropsychological theory. Psychology press, 2005. 279 p.
11. Amato G., Carrara F., Falchi F., Gennaro C., Lagani G. Hebbian Learning Meets Deep Convolutional Neural Networks // Image Analysis and Processing – ICIAP 2019: 20th International Conference (Trento, Italy, September 9–13, 2019), Proceedings, Part I. Cham: Springer International Publishing, 2019. P. 324–334.
12. Moraitis T., Toichkin D., Journé A., Chua Y., Guo Q. Softhebb: Bayesian inference in unsupervised hebbian soft winner-take-all networks // Neuromorphic Computing and Engineering. 2022. V. 2. N. 4. P. 044017.
13. Journ´e A., Rodriguez H. G., Guo Q., Moraitis T. Hebbian deep learning without feedback // arXiv preprint arXiv:2209.11883. 2022. URL: https://arxiv.org/pdf/2209.11883 (дата обращения: 12.06.2025).
14. Ефимов Е. И. Решатели интеллектуальных задач. М.: Наука, 1982. 316 c.
15. Степанов М. Ф. Нейронные сети для планирования решения задач теории автоматического управления // Проблемы управления. 2004. № 2. С. 66–71.
16. Stepanov M. F., Stepanov A. M., Stepanova T. V., Stepanova O. M. Features of Knowledge Representation of Automatic Control Systems Design Methods // International Conference Artificial Intelligence in Engineering and Science (Studies in Systems, Decision and Control). Springer Nature Switzerland AG, 2023. V. 457. P. 231–243. DOI:https://doi.org/10.1007/978-3-031-22938-1_16.
17. Степанов М. Ф., Степанов А. М., Степанова О. М. Cамообучение нейросетевого решателя задач интеллектуальной системы автоматического управления на основе моделирования самообучения мозга // Императив академика А. А. Ухтомского – мозг и его самопознание: тез. докл. и материалы Всерос. науч. конф. (Санкт-Петербург, 15–18 апреля 2025 г.). СПб.: Изд-во СПбГУПТД, 2025. С. 171–172.
18. Справочник по теории автоматического управления / под ред. А. А. Красовского. М.: Наука, 1987. 712 c.
19. Анохин П. К. Философские аспекты теории функциональной системы. М.: Наука, 1978. 400 c.
20. Stepanov M. F., Stepanov A. M. Mathematical modelling of intellectual self-organizing automatic control system: Action planning research // Procedia Engineering. 2017. V. 201. P. 617–622.
