За последние несколько лет методы глубокого обучения стали все более продвинутыми, достигнув точности человеческого уровня в широком спектре задач, включая классификацию изображений и обработку естественного языка.
Широкое использование этих вычислительных методов стимулировало исследования, направленные на разработку новых аппаратных решений, которые могут удовлетворить их существенные вычислительные потребности.
Для работы глубоких нейронных сетей некоторые исследователи разрабатывают так называемые аппаратные ускорители — специализированные вычислительные устройства, которые можно запрограммировать для решения конкретных вычислительных задач более эффективно, чем обычные центральные процессоры (ЦП).
Разработка этих ускорителей до сих пор в основном выполнялась отдельно от обучения и реализации моделей глубокого обучения, и лишь несколько команд решали эти две исследовательские цели одновременно.
Исследователи из Манчестерского университета и компании Pragmatic Semiconductor недавно приступили к разработке метода на основе машинного обучения для автоматического создания схем классификации на основе табличных данных, которые представляют собой неструктурированные данные, объединяющие числовую и категориальную информацию.
Предложенный ими метод, изложенный в статье , опубликованной в журнале Nature Electronics , основан на недавно представленной методологии, которую команда называет «крошечными классификаторами».
«Типичный цикл разработки машинного обучения максимизирует производительность во время обучения модели, а затем сводит к минимуму объем памяти и занимаемую областью обученную модель для развертывания на вычислительных ядрах, графических процессорах, микроконтроллерах или специальных аппаратных ускорителях», — написали Константинос Иордану, Тимоти Аткинсон и их коллеги. в их газете.
«Однако это становится все сложнее по мере того, как модели машинного обучения становятся все больше и сложнее. Мы сообщаем о методологии автоматического создания схем прогнозирования для классификации табличных данных».
Крошечные схемы-классификаторы, разработанные Иордану, Аткинсоном и их коллегами, состоят всего из нескольких сотен логических элементов . Было обнаружено, что, несмотря на их относительно небольшой размер, они обеспечивают точность, аналогичную точности, достигаемой современными классификаторами машинного обучения.
«Этот подход обеспечивает сопоставимую производительность прогнозирования с традиционными методами машинного обучения, поскольку используется значительно меньше аппаратных ресурсов и мощности», — пишут Иордану, Аткинсон и их коллеги.
«Мы используем эволюционный алгоритм для поиска в пространстве логических элементов и автоматически генерируем схему классификатора с максимальной точностью прогнозирования обучения, которая состоит не более чем из 300 логических элементов».
Исследователи протестировали свои крошечные схемы классификатора в серии симуляций и обнаружили, что они достигли весьма многообещающих результатов как с точки зрения точности, так и с точки зрения энергопотребления . Затем они также проверили свои характеристики на реальной недорогой интегральной схеме (ИС).
«При моделировании в виде кремниевого чипа наши крошечные классификаторы используют в 8–18 раз меньше площади и в 4–8 раз меньше энергии, чем самые эффективные базовые модели машинного обучения», — пишут Иордану, Аткинсон и их коллеги.
«Когда они реализованы в виде недорогих чипов на гибкой подложке, они занимают в 10–75 раз меньше площади, потребляют в 13–75 раз меньше энергии и имеют в 6 раз лучший выход, чем наиболее аппаратно-эффективная базовая версия ML».
В будущем крошечные классификаторы, разработанные исследователями, можно будет использовать для эффективного решения широкого спектра реальных задач. Например, они могут служить в качестве триггерных схем на чипе для интеллектуальной упаковки и мониторинга различных товаров, а также для разработки недорогих околосенсорных вычислительных систем.
