Нейросетевая архитектура для формирования автоматических навыков. Часть 1

Предложена архитектура нейросетей, которая имитирует формирование привычек: «сознательная» сеть обрабатывает новые данные, а «подсознательная» дообучается на сгенерированных примерах для автоматизации.

Предложена архитектура, вдохновлённая тем, как человек осваивает новые действия и затем превращает их в привычки. Сначала незнакомые входные данные обрабатывает «сознательная» сеть, а после получения правильного ответа и положительного подкрепления генеративная сеть создаёт похожие примеры для дообучения «подсознательной» сети. Автор сравнивает этот процесс с обучением вождению: по мере накопления опыта часть операций перестаёт требовать постоянного внимания и выполняется автоматически. В основе подхода лежит схема «стимул-желание-реакция-подкрепление», перенесённая на несколько простых нейросетей.

Источники 1

Нейросетевая архитектура для формирования автоматических навыков. Часть 1 Habr AI

Нейросетевая архитектура формирования автоматических навыков. Часть 1

Идея предлагаемой архитектуры возникла из наблюдения за тем, как человеческий мозг осваивает новые действия и превращает их в привычки.

Когда человек впервые сталкивается с незнакомой задачей, её решение требует сознательного внимания. Необходимо сосредоточиться, попробовать один или несколько вариантов, получить обратную связь и скорректировать поведение. Однако после многократного успешного повторения действие постепенно становится автоматическим и выполняется практически без участия сознания.

В общем случае наш мозг работает по принципу «стимул-желание-реакция-подкрепление». Этот принцип хорошо описывается в книге Джеймса Клира «Атомные привычки», что и вдохновило меня на создание подобной архитектуры.

Хороший пример — обучение вождению. Начинающий водитель отдельно контролирует положение педалей, переключение передач, поворот руля и дорожную обстановку. По мере накопления опыта значительная часть этих операций превращается в привычку и начинает выполняться автоматически.

Прямо во время написания статьи я сдаю на водительские права, так что мне везёт воочию наблюдать как обучается моя собственная «нейронка».

Предлагаемая архитектура переносит этот принцип в систему из нескольких простых нейронных сетей. Незнакомые входные данные сначала обрабатываются «сознательной» сетью. После получения правильного ответа и положительного подкрепления генеративная сеть создаёт множество похожих примеров. На них дообучается «подсознательная» сеть, после чего сходные ситуации начинают обрабатываться быстро и автоматически. Читать далее

#нейронные_сети #машинное_обучение #ии #ai #искусственный_интеллект #наука #agi #программирование #python #обучение_с_подкреплением | @habr_ai