Нейросети показывают, как структурированный опыт формирует обучение в мозге
Нейросети показывают, как структурированный опыт формирует обучение в мозге
В новом исследовании использовали нейронные сети — один из подходов в машинном обучении — чтобы показать, как разные способы обучения меняют процесс усвоения навыка и в искусственных системах, и в живом мозге.
«Мы можем использовать эти сложные модели, чтобы делать конкретные прогнозы о функциях интересующих нас областей мозга. Если перейти на самый абстрактный уровень, это довольно хорошая аналогия того, как, по нашему мнению, должен работать мозг»,
Джек Боулер, доктор философии, научный сотрудник по нейробиологии, Университет здравоохранения штата Юта и первый автор исследования
.
По мере обучения нейросети приобретали модели активности, которые поразительно напоминали реальные паттерны активности нейронов в тех областях мозга, которые важны для обучения.
Результаты опубликованы в Nature Neuroscience.
Нейронные сети учатся и терпят неудачи, как живые существа
Джим Хейс, доктор философии, доцент кафедры нейробиологии в U of U Health и старший автор исследования, сравнивает процесс перехода от простых задач к сложным с изучением математики.
«Все знают, что когда вы пытаетесь изучить исчисление, вы сначала изучаете порядок операций, затем алгебру, тригонометрию и систематически выстраиваете концепции. Но почему это так?»
Исследователи обучали нейронные сети выполнять относительно сложную задачу: сеть должна была реагировать определённым образом только после предъявления двух стимулов разной длительности («испытание») и не реагировать когда два стимула имеют одинаковую длину («нет хода»). Это виртуальный эквивалент сложной задачи обучения, которую команда ранее разработала для мышиной модели: мышей вознаграждали за реакцию на временные образцы запахов.
Для мыши научиться реагировать только на правильные образцы запахов — сложная многослойная задача, в которой критично поэтапное обучение от простого к сложному. То же самое оказалось верным и для нейросети: если сначала давать сети более простую задачу — лишь «пробные» испытания — то при переходе к полной, сложной задаче сеть работала точнее и надёжнее как на «годен», так и на «неудачные» испытания.
Напротив, когда исследователи сразу обучали сети полной сложной задаче, минуя поэтапное обучение (по сути, «прыжок» сразу к исчислению до изучения алгебры), сети стали допускать повторяющиеся и предсказуемые ошибки.
Они часто реагировали слишком рано на «годеновые» испытания — то есть спешили после первого длительного стимула. Это та же ошибка, которую наблюдали и у животных при неподходящем обучении, что говорит о том, что нейросети способны предсказывать поведение реального мозга.
Нейросети предсказывают закономерности реальной мозговой активности
Далее исследователи записали активность отдельных нейронов у мышей во время выполнения тех же испытаний и сосредоточились на области мозга, известной своим участием в обучении этим задачам. В широком масштабе паттерны активности у животных были очень похожи на паттерны, возникавшие в нейросетях во время тех же условий.
Когда нейросети и соответствующим образом обученные мыши выполняли задачу, их активность в течение одного испытания шла циклически и в конце испытания возвращалась примерно в то же состояние, в котором она находилась в начале. В «пусковых» испытаниях и у сетей, и у мышей цикл отклонялся от обычного пути на период времени, в течение которого требовалась реакция.
Подобие в активности и поведении позволяет предположить, что нейросети могут служить первым шагом к пониманию человеческого обучения, говорит Боулер: вычислительные модели помогают сформулировать целенаправленные гипотезы о когнитивных механизмах, которые затем проверяют на животных, уменьшая объём необходимой экспериментальной работы.
«Благодаря предварительному моделированию мы смогли гораздо быстрее перейти к полезным гипотезам и сократить количество животных, которые нам нужно было протестировать», — говорит Боулер. «Это помогает нам работать с животными более уважительно».
Авторы отмечают, что результаты в перспективе могут помочь разрабатывать более эффективные методы обучения для людей и расширять понимание нормального процесса обучения, а также понять, как этот процесс нарушается при заболеваниях, затрагивающих высокоуровневые когнитивные функции.
«Мы изучаем фундаментальные принципы работы мозга», — говорит Хейс. «Поэтому, когда они нарушаются, как при таких заболеваниях, как болезнь Альцгеймера, которые прежде всего влияют на сложные когнитивные функции, мы сможем лучше понять, как это исправить».
Это исследование опубликовано в Nature Neuroscience как «Структурированный опыт формирует стратегию обучения и нейронную динамику в медиальной энторинальной коре».
Работа проводилась при поддержке Национальных институтов здравоохранения, включая Национальный институт психического здоровья (DP2 MH129958-01), Национального научного фонда (IOS-2145814), Фонда исследований в области естественных наук при поддержке Фонда Саймонса – Сотрудничество в области глобального мозга и Университета Юты.





