У искусственной нейронной сети, имитирующей работу мозга, неожиданно обнаружилась потребность во сне.
У искусственной нейронной сети, имитирующей работу мозга, неожиданно обнаружилась потребность во сне. Состояние, аналогичное медленному сну человека, восстановило её работоспособность.
33Live.RuRu подробно рассказывали об искусственных нейронных сетях (ИНС). Напомним, что они в самых общих чертах имитируют работу нейронных сетей мозга человека. В частности, они тоже состоят из своеобразных нейронов, соединённых контактами (синапсами). Обучение сети происходит благодаря изменению проводимости этих синапсов.
Часто на этом сходство с мозгом и заканчивается. Обычно специалисты по искусственному интеллекту не ставят себе целью максимально точно воспроизвести работу нервной системы. Ведь самолёту необязательно копировать полёт птицы, хотя он тоже использует подъёмную силу крыла. Так и ИНС не обязана быть по-настоящему похожей на мозг, чтобы успешно решать поставленные перед ней задачи.
Однако некоторые учёные интересуются именно принципами работы мозга и возможностью смоделировать их с помощью ИНС.
"Мы изучаем импульсные нейронные сети. Это системы, обучающиеся так же, как и живой мозг", — говорит соавтор нового исследования Ицзин Уоткинс (Yijing Watkins) из Национальной лаборатории Лос-Аламоса, США.
Уоткинс и её соавторы создали нейронную сеть, которая не просто обучается видеть, но делает это примерно так же, как человеческий младенец или детёныш животного.
(Поясним, что полноценное зрение выстраивается благодаря практике. Известен эксперимент, в котором котята так и не научились видеть горизонтальные линии, потому что не видели их в первые пять месяцев после рождения).
Уоткинс и её коллеги обнаружили, что после долгого периода обучения нейронная сеть начала работать нестабильно. Учёные перепробовали много способов исправить ситуацию. Но эффективное решение нашлось лишь тогда, когда на входы нейронной сети был на продолжительное время подан слабый гауссовский шум. После этого система восстановила работоспособность.
Исследователи предполагают, что именно такой сигнал получают зрительные нейроны во время медленного сна.
"Было похоже на то, что мы [таким образом] подарили нейронным сетям эквивалент спокойного ночного отдыха", — рассказывает Уоткинс.
Авторы новой работы подчёркивают, что потребность во "сне" возникла у системы из-за того, что её обучение весьма напоминает деятельность мозга.
Подавляющее большинство ИНС используют другие алгоритмы обучения, имеющие лишь отдалённое сходство с работой нервной системы, и не сталкиваются с такими проблемами.
Теперь учёные намерены проверить свои выводы на нейроморфном чипе Loihi (том самом, который недавно научился распознавать запахи и сыграл роль "кирпичика" для нейрокомпьютера, превосходящего мозг мыши). Исследователи подключат к нему искусственный глаз и будут обучать обрабатывать зрительную информацию. Они надеются, что, позволяя чипу время от времени "спать", они смогут улучшать его работоспособность.
Результаты исследования будут представлены на конференции "Женщины в компьютерном зрении" (Women in Computer Vision), которая состоится 14 июня в Сиэтле, США.
