Модераторы Facebook не могут просматривать все публикуемые изображения, поэтому соцсеть занялась разработкой ИИ, чтобы помочь им. Сегодня в своём блоге Facebook описал систему под названием Rosetta, которая использует машинное обучение для идентификации текста в изображениях и видео, а затем переписывает его в машиночитаемое. Facebook считает этот инструмент полезным для транскрибирования текста по мемам.

Rosetta извлекаeт текст из миллиарда изображений и видеокадров в день как на Facebook, так и в Instagram.

Но, похоже, Facebook будет использовать его для более крупных целей – например, выяснять, какие мемы просто смешные, а какие на самом деле разжигают ненависть и оскорбляют кого-либо.

Facebook говорит, что извлечение текста и машинное обучение используются для «автоматического определения контента, который нарушает нашу политику в отношении ненависти» и что это делается на нескольких языках. Учитывая известные проблемы модерации, хорошо работающая система, которая может автоматически помечать потенциально проблематичные изображения, может реально помочь.