OpenAI, поддерживаемая Microsoft компания по искусственному интеллекту, стоящая за популярным генератором изображений DALL-E, во вторник объявила о запуске нового инструмента, предназначенного для определения того, были ли цифровые изображения созданы искусственным интеллектом.

Аутентификация стала серьезной проблемой в условиях быстрого развития искусственного интеллекта, поскольку власти обеспокоены распространением глубоких фейков, которые могут разрушить общество.

По данным компании, классификатор обнаружения изображений OpenAI, который в настоящее время проходит тестирование, может оценить вероятность того, что данное изображение возникло из одной из генеративных моделей искусственного интеллекта компании, таких как DALL-E 3.

OpenAI сообщила, что во время внутреннего тестирования более ранней версии инструмент точно обнаружил около 98 процентов изображений DALL-E 3, при этом неправильно помечая менее 0,5 процента изображений, не связанных с AI.

Однако компания предупредила, что модифицированные изображения DALL-E 3 сложнее идентифицировать и что в настоящее время инструмент помечает только около 5–10 процентов изображений, созданных другими моделями ИИ.

OpenAI также заявила, что теперь будет добавлять водяные знаки в метаданные изображений AI, поскольку все больше компаний подписываются на соответствие стандартам Коалиции по происхождению и аутентичности контента (C2PA).

C2PA — это отраслевая инициатива, которая устанавливает технический стандарт для определения происхождения и подлинности цифрового контента с помощью процесса, известного как нанесение водяных знаков.

Гигант Facebook (запрещена в РФ) Meta (запрещена в РФ) в прошлом месяце заявил, что начиная с мая начнет маркировать средства массовой информации, созданные искусственным интеллектом, используя стандарт C2PA. Google, еще один гигант искусственного интеллекта, также присоединился к этой инициативе.