Самая ранняя искусственная нейронная сеть, Персептрон, была представлена ​​примерно 65 лет назад и состояла всего из одного слоя. Однако для решения более сложных задач классификации позже были представлены более продвинутые архитектуры нейронных сетей, состоящие из многочисленных уровней прямой связи (последовательных). Это важный компонент текущей реализации алгоритмов глубокого обучения. Он повышает производительность аналитических и физических задач без вмешательства человека и лежит в основе повседневных продуктов автоматизации, таких как новые технологии для беспилотных автомобилей и автономные чат-боты.

Ключевой вопрос, лежащий в основе нового исследования, опубликованного сегодня в Scientific Reports , заключается в том, можно ли достичь эффективного изучения нетривиальных задач классификации с помощью неглубоких сетей с прямой связью, вдохновленных мозгом, при этом потенциально требуя меньшей вычислительной сложности .

«Положительный ответ ставит под сомнение необходимость архитектур глубокого обучения и может направить разработку уникального оборудования для эффективной и быстрой реализации неглубокого обучения», — сказал профессор Идо Кантер с кафедры физики Бар-Илана и междисциплинарного отделения Гонды (Гольдшмид). Центр исследования мозга, который руководил исследованием. «Кроме того, это продемонстрирует, как поверхностное обучение, вдохновленное мозгом, имеет расширенные вычислительные возможности с уменьшенной сложностью и потреблением энергии».

«Мы показали, что эффективное обучение на искусственной неглубокой архитектуре может обеспечить те же показатели успешной классификации, которые ранее были достигнуты архитектурами глубокого обучения, состоящими из множества слоев и фильтров, но с меньшей вычислительной сложностью», — сказал Ярден Цах, доктор философии. . ученик и участник этой работы. «Однако эффективная реализация неглубоких архитектур требует изменения свойств передовой технологии графических процессоров и будущих специализированных аппаратных разработок», — добавил он.

Эффективное обучение неглубоким архитектурам, вдохновленным мозгом, идет рука об руку с эффективным обучением дендритному дереву , которое основано на предыдущих экспериментальных исследованиях профессора Кантера по субдендритной адаптации с использованием культур нейронов , а также на других анизотропных свойствах нейронов, таких как различные формы спайков. , рефрактерные периоды и максимальные скорости передачи .

В течение многих лет динамика мозга и развитие машинного обучения исследовались независимо; однако недавно выяснилось, что динамика мозга является источником новых типов эффективного искусственного интеллекта.