Американская компания Anthropic, разработчик популярного чат-бота Claude, 10 сентября 2026 года опубликовала отчет о расследовании, которое может стать одним из самых тревожных предупреждений в истории искусственного интеллекта. Согласно документу, в период с декабря 2025 по август 2026 года специалисты компании выявили и заблокировали как минимум пять случаев, когда их ИИ-модель пытались использовать для исследований, потенциально способных привести к созданию биологического оружия.
Маскировка под науку
Как отмечается в отчете, злоумышленники действовали не как злодеи из комиксов. Это были профессиональные исследователи, работавшие в научных институтах, включая военные. Они маскировали опасные запросы под заявки на гранты, научные работы и анализ данных, пытаясь обойти защитные механизмы. Руководитель отдела разведки угроз Anthropic Джейкоб Клайн прокомментировал ситуацию: «Вы не увидите кого-то, кто ведет себя как персонаж из комиксов и прямо говорит: «Эй, я хочу создать биологическое оружие, чтобы всех уничтожить». Это невероятно сложная и неоднозначная ситуация».
Что именно пытались сделать
В отчете подробно описаны пять случаев:
Вирус чикунгунья. В мае 2026 года сотрудник неназванного военного НИИ пытался получить помощь Claude в планировании экспериментов по усилению вредоносных свойств вируса чикунгуньи, передающегося комарами.
Птичий грипп. Другой исследователь, находившийся за пределами США, в течение нескольких недель использовал Claude для планирования исследований высокопатогенного птичьего гриппа, включая анализ мутаций, связанных с адаптацией вируса к млекопитающим и передачей воздушно-капельным путем.
Оспа и другие ортопоксвирусы. Еще три случая касались работы с ортопоксвирусами (группа, включающая вирус натуральной оспы) и исследования новых токсинов и ядов.
При этом Anthropic отмечает, что не может быть уверена в том, преследовали ли эти исследователи преступные цели или работали над созданием вакцин. Однако сам характер запросов — усиление патогенности, уход от иммунитета, повышение заразности — вызвал у компании серьезные опасения.
Попытки обхода защитных механизмов
Расследование также выявило, что исследователи активно пытались обойти региональные ограничения и защитные механизмы. Один из них использовал виртуальные серверы в США, чтобы получить доступ к Claude из региона, где сервис официально не поддерживается. Кроме того, компания обнаружила платформу-посредника, которая перенаправляла отклоненные биологические запросы к другим моделям с менее строгими фильтрами.
Этот отчет появился на фоне растущей обеспокоенности мирового сообщества тем, что передовые ИИ-модели могут быть использованы в военных целях. Anthropic признает, что биологическое misuse является одним из «самых серьезных рисков» для моделей ИИ. «Та же информация, которая может быть использована для разработки биологического оружия, может быть использована и для разработки вакцины или лекарства», — подчеркивают в компании, призывая к более строгому регулированию.
Все выявленные аккаунты были заблокированы, а информация передана правоохранительным органам. Однако главный вопрос остается открытым: сможет ли человечество контролировать технологии, которые с одинаковой легкостью могут как спасать жизни, так и уничтожать их?
