Ученые используют шум в оптических вычислениях для ИИ

Прочитано: 296 раз(а)


Искусственный интеллект и машинное обучение в настоящее время влияют на нашу жизнь многими небольшими, но действенными способами. Например, приложения для искусственного интеллекта и машинного обучения рекомендуют развлечения, которыми мы могли бы наслаждаться с помощью потоковых сервисов, таких как Netflix и Spotify.

Прогнозируется, что в ближайшем будущем эти технологии окажут еще большее влияние на общество благодаря таким видам деятельности, как вождение полностью автономных транспортных средств, проведение сложных научных исследований и облегчение медицинских открытий.

Но компьютеры, используемые для искусственного интеллекта и машинного обучения, требуют много энергии. В настоящее время потребность в вычислительной мощности, связанной с этими технологиями, удваивается примерно каждые три-четыре месяца. А центры обработки данных облачных вычислений, используемые приложениями искусственного интеллекта и машинного обучения по всему миру, уже потребляют больше электроэнергии в год, чем некоторые небольшие страны . Легко видеть, что такой уровень потребления энергии является неустойчивым.

Исследовательская группа под руководством Вашингтонского университета разработала новое оптическое вычислительное оборудование для искусственного интеллекта и машинного обучения, которое работает быстрее и намного энергоэффективнее, чем обычная электроника. Исследование также решает другую проблему — « шум », присущий оптическим вычислениям, который может мешать точности вычислений.

В новой статье, опубликованной 21 января в журнале Science Advances , команда демонстрирует оптическую вычислительную систему для искусственного интеллекта и машинного обучения, которая не только смягчает этот шум, но фактически использует часть его в качестве входных данных, чтобы помочь улучшить творческий результат искусственной нейронной сети. внутри системы.

«Мы создали оптический компьютер , который быстрее обычного цифрового компьютера», — сказал ведущий автор Чанминг Ву, докторант Университета Вашингтона в области электротехники и вычислительной техники. «Кроме того, этот оптический компьютер может создавать новые вещи на основе случайных входных данных, генерируемых оптическим шумом, от которого большинство исследователей пытались уклониться».

Шум оптических вычислений в основном возникает из-за рассеянных световых частиц или фотонов, возникающих в результате работы лазеров внутри устройства и фонового теплового излучения. Для борьбы с шумом исследователи подключили свое оптическое вычислительное ядро к особому типу сети машинного обучения, называемой генеративно-состязательной сетью.

Команда протестировала несколько методов подавления шума, в том числе использование части шума, генерируемого оптическим вычислительным ядром, в качестве случайных входных данных для GAN.

Например, команда поставила перед GAN задачу научиться писать цифру «7» от руки, как человек. Оптический компьютер не мог просто распечатать число в соответствии с предписанным шрифтом. Он должен был выучить задачу так же, как ребенок, глядя на визуальные образцы почерка и тренируясь, пока не сможет правильно написать число. Конечно, у оптического компьютера не было человеческой руки для письма, поэтому его форма «почерка» заключалась в создании цифровых изображений, которые имели стиль, похожий на изученные им образцы, но не идентичные им.

«Вместо того, чтобы обучать сеть читать написанные от руки числа, мы научили сеть учиться писать числа, имитируя визуальные образцы почерка, на которых она обучалась», — сказал старший автор Мо Ли, профессор электротехники и вычислительной техники UW. «Мы с помощью наших сотрудников по компьютерным наукам в Университете Дьюка также показали, что GAN может смягчить негативное влияние шумов оборудования оптических вычислений, используя алгоритм обучения, устойчивый к ошибкам и шумам. Более того, сеть фактически использует шумы в качестве случайных входных данных, необходимых для создания выходных экземпляров».

Изучив рукописные образцы числа семь, которые были взяты из стандартного набора изображений для обучения ИИ, GAN практиковался в написании «7», пока не смог сделать это успешно. Попутно он разработал свой собственный особый стиль письма и мог писать числа от одного до 10 в компьютерных симуляциях.

Следующие шаги включают создание этого устройства в более крупном масштабе с использованием современных технологий производства полупроводников. Таким образом, вместо того, чтобы создавать следующую версию устройства в лаборатории, команда планирует использовать промышленный литейный завод полупроводников для создания технологии в масштабе пластины. Более крупное устройство еще больше повысит производительность и позволит исследовательской группе выполнять более сложные задачи, помимо рукописного ввода, например, создавать иллюстрации и даже видео.

«Эта оптическая система представляет собой архитектуру компьютерного оборудования, которая может повысить творческие способности искусственных нейронных сетей, используемых в ИИ и машинном обучении, но, что более важно, она демонстрирует жизнеспособность этой системы в больших масштабах, где шум и ошибки могут быть уменьшены и даже использованы. , — сказал Ли. «Приложения ИИ растут так быстро, что в будущем их энергопотребление станет неустойчивым. Эта технология может помочь сократить это энергопотребление, сделав ИИ и машинное обучение экологически устойчивыми — и очень быстрыми, достигая более высокой производительности в целом».

Использование шума в оптических вычислениях для ИИ



Новости партнеров