В новом исследовании в журнале Nature Machine Intelligence исследователи Боджиан Инь и Сандер Бохте из голландского национального исследовательского института математики и компьютерных наук (CWI), партнера HBP, демонстрируют значительный шаг на пути к искусственному интеллекту, который можно использовать в локальных устройствах, таких как смартфоны, и в виртуальной реальности. -подобные приложения, защищая при этом конфиденциальность.

Они показывают, как мозгоподобные нейроны в сочетании с новыми методами обучения позволяют обучать быстрые и энергоэффективные импульсные нейронные сети в больших масштабах. Потенциальные приложения варьируются от носимого искусственного интеллекта до распознавания речи и дополненной реальности.

Хотя современные искусственные нейронные сети являются основой нынешней революции ИИ, они лишь частично вдохновлены сетями реальных биологических нейронов, таких как наш мозг. Однако мозг представляет собой гораздо более крупную сеть, гораздо более энергоэффективную и может сверхбыстро реагировать на внешние события. Спайковые нейронные сети — это особые типы нейронных сетей, которые более точно имитируют работу биологических нейронов: нейроны нашей нервной системы общаются, обмениваясь электрическими импульсами, и делают это очень редко.

Реализованные в микросхемах, называемых нейроморфными аппаратными средствами, такие импульсные нейронные сети обещают приблизить программы ИИ к пользователям — на их собственных устройствах. Эти локальные решения хороши для обеспечения конфиденциальности, надежности и оперативности. Приложения варьируются от распознавания речи в игрушках и бытовой технике, мониторинга здравоохранения и навигации дронов до локального наблюдения.

Так же, как и стандартные искусственные нейронные сети, импульсные нейронные сети необходимо натренировать, чтобы они хорошо выполняли такие задачи. Однако способ, которым такие сети взаимодействуют, создает серьезные проблемы. «Алгоритмы, необходимые для этого, требуют много компьютерной памяти, что позволяет нам обучать только небольшие сетевые модели в основном для небольших задач. Это пока сдерживает многие практические приложения ИИ», — говорит Сандер Бохте из группы машинного обучения CWI. В проекте «Человеческий мозг» он работает над архитектурой и методами обучения для иерархической когнитивной обработки.

Подражание обучающемуся мозгу

Аспект обучения этих алгоритмов — большая проблема, и они не могут сравниться со способностью нашего мозга к обучению. Мозг может легко учиться на новом опыте , меняя связи или даже создавая новые. Мозгу также требуется гораздо меньше примеров, чтобы чему-то научиться, и он работает более энергоэффективно. «Мы хотели разработать что-то более близкое к тому, как учится наш мозг », — говорит Боджиан Инь.

Инь объясняет, как это работает: если вы делаете ошибку во время урока вождения, вы сразу же учитесь на ней. Вы корректируете свое поведение сразу, а не через час. «Вы как бы учитесь, получая новую информацию. Мы хотели имитировать это, давая каждому нейрону нейронной сети немного информации, которая постоянно обновляется. не нужно помнить всю предыдущую информацию. В этом большое отличие от современных сетей, которым приходится работать со всеми предыдущими изменениями. Нынешний способ обучения требует огромных вычислительных мощностей и, следовательно, много памяти и энергии».

6 миллионов нейронов

Новый алгоритм онлайн-обучения позволяет учиться непосредственно на данных, что позволяет использовать нейронные сети гораздо большего размера. Вместе с исследователями из Технического университета Эйндховена и партнером по исследованиям Holst Center Бохте и Инь продемонстрировали это в системе, предназначенной для распознавания и определения местоположения объектов. Инь показывает видео оживленной улицы в Амстердаме: базовая импульсная нейронная сеть SPYv4 была обучена таким образом, чтобы она могла различать велосипедистов, пешеходов и автомобили и точно указывать, где они находятся.

«Раньше мы могли обучать нейронные сети с количеством нейронов до 10 000; теперь мы можем довольно легко сделать то же самое для сетей с более чем 6 миллионами нейронов», — говорит Бохте. «Благодаря этому мы можем обучать высокопроизводительные импульсные нейронные сети, такие как наша SPYv4».

И куда все это ведет? Имея доступ к таким мощным решениям ИИ, основанным на импульсных нейронных сетях, разрабатываются чипы, которые могут запускать эти программы ИИ с очень низким энергопотреблением и в конечном итоге появятся во многих интеллектуальных устройствах, таких как слуховые аппараты и очки дополненной или виртуальной реальности.