Компания Anthropic, один из ведущих мировых разработчиков в области искусственного интеллекта, сделала заявление, которое мгновенно разлетелось по мировым новостным лентам. Её новая модель Claude Mythos Preview продемонстрировала способность выявлять и использовать уязвимости во всех крупных операционных системах и веб-браузерах. Возможности системы оказались настолько продвинутыми, что даже ярые сторонники дерегулирования, включая президента США Дональда Трампа, признали необходимость создания «аварийного выключателя».

Проблема, однако, глубже, чем просто появление ещё одной мощной модели. Угроза носит двойственный характер: с одной стороны — злонамеренные люди, с другой — сами модели, вышедшие из-под контроля. Агенты ИИ уже усилили кибератаки и биологические риски, ускорив разработку потенциально катастрофических «зеркальных организмов». С появлением Mythos, а также другой мощной модели с ограниченным доступом от OpenAI, консорциум авторизованных пользователей, включающий правительственные агентства США и несколько надёжных компаний, спешно принимает меры по защите критически важного программного обеспечения.

Хотя новые модели пока считаются слишком рискованными для выпуска в открытый доступ, эксперты предупреждают, что такие возможности будут распространяться неизбежно. Генеральный директор Anthropic Дарио Амодей подчеркнул критическую асимметрию между биологическими атаками, способными быстро распространяться самостоятельно, и защитой от них, которая требует быстрого обнаружения и массового внедрения вакцин и лечения.

Ситуация побудила технологических гигантов к активным действиям. Некоторые правительства, например, Китай, уже контролируют серверы ИИ и центры обработки данных; большинство других государств — нет, и все они уязвимы для кибератак на основе ИИ, которые могут привести к масштабному отключению критической инфраструктуры. Вопрос глобального регулирования искусственного интеллекта переходит из теоретической плоскости в практическую.