Инженеры Льежского университета сделали большой шаг вперед в архитектуре искусственных нейронных сетей, создав новый тип импульсного нейрона. Эта инновационная модель, получившая название Spiking Recurrent Cell (SRC), сочетает в себе простоту реализации со способностью воспроизводить динамику биологических нейронов. Добавьте к этому энергоэффективность импульсных нейронов, и эта новая модель откроет новые захватывающие перспективы для искусственного интеллекта, основанного на нейронах. Работа опубликована в журнале Neuromorphic Computing and Engineering.
Искусственные нейронные сети (ИНС) и пиковые нейронные сети (SNN) — это два типа нейронных сетей, используемых в искусственном интеллекте . Однако они существенно различаются по своей структуре, принципу действия и применению.
ИНС широко используются в различных приложениях машинного обучения (распознавание изображений, распознавание речи, игры) и их относительно проще реализовать. Однако они энергонеэффективны и требуют больших вычислительных затрат.
С другой стороны, SNN используются в приложениях, требующих чувствительности к точному времени событий (робототехника, интерфейс мозг-компьютер , сенсорная обработка) и предлагают более реалистичное моделирование биологических нейронных процессов. Они отличаются от ИНС тем, что способ связи между нейронами основан исключительно на импульсах (спайках), имитируя тем самым функционирование биологических нейронов.
«Их главное преимущество — это энергоэффективность», — объясняет Флоран Де Гитер, инженер-исследователь Института Монтефиоре при Льежском университете.
«Когда эти SNN запускаются на специальном оборудовании, известном как нейроморфное оборудование, их энергопотребление становится чрезвычайно низким. Эта характеристика означает, что такие сети могут использоваться в ситуациях, когда энергоэффективность имеет первостепенное значение, например, во встроенных системах, которые представляют собой автономные компьютеры и электронные системы, которые выполняют точную задачу внутри устройства, в которое они интегрированы».
В отличие от ИНС, СНС трудно обучать, и текущие исследования сосредоточены на разработке алгоритмов обучения, которые позволят им конкурировать с ИНС в решении сложных задач.
В рамках амбициозного проекта в Ульеже исследователи опробовали новый подход: изменив динамику хорошо известного типа искусственного нейрона, который легко обучать, им удалось имитировать поведение биологических нейронов, что привело к созданию новая модель: Spiking Recurrent Cell (SRC).
SRC: мост между ANN и SNN
«Основное новшество этого исследования заключается в разработке Spiking Recurrent Cell (SRC)», — объясняет Дэмиен Эрнст, профессор ULiège и соавтор исследования, — «модели нейрона, способной генерировать спайки автономно, как биологические нейроны». В отличие от традиционных моделей SNN, в которых спайки генерируются искусственно, модель SRC позволяет более естественно и динамично эмулировать нейронные импульсы».
Эта новая модель позволяет интегрировать сложные алгоритмы обучения ИНС с энергоэффективностью СНС. Таким образом, SRC предлагают гибридное решение, сочетающее в себе преимущества обоих типов нейронных сетей и открывающее путь для нового поколения SNN.
Последствия и будущие применения
Потенциальные возможности применения SRC огромны. Благодаря своей энергоэффективности , SNN могут использоваться в ситуациях, когда потребление энергии имеет решающее значение, например, в бортовых системах автономных транспортных средств.
«Более того, способность модели SRC моделировать различное поведение нейронов путем настройки ее внутренних параметров делает эти сети более выразительными и близкими к биологическим сетям, что позволяет значительно продвинуться в понимании и воспроизведении функций мозга», — говорит Гийом Дрион, директор Лаборатория нейроморфной инженерии в Ульеже и соавтор исследования.
Создание и внедрение SRC представляет собой значительный прогресс в области нейронных сетей, объединяющий сильные стороны ANN и SNN. Это нововведение открывает новые перспективы для разработки более эффективных и энергосберегающих интеллектуальных систем.
