Американская компания Anthropic, разработчик одной из ведущих больших языковых моделей, опубликовала отчет, в котором предупредила о новом классе киберугроз. Согласно выводам исследователей, небольшие модели искусственного интеллекта могут в течение нескольких месяцев приобрести способность к автономному самокопированию и распространению на подключенные к интернету потребительские устройства — от недорогих Android TV-приставок до умных холодильников, духовок и роботов-пылесосов. В перспективе это может привести к появлению «ИИ-червей», которые будет крайне сложно отключить, поскольку у них не будет единого центра управления.
Суть эксперимента: 15 дешевых ТВ-приставок
Ключевой частью исследования стал практический эксперимент. Специалисты по безопасности Anthropic, входящие в так называемую «red team», приобрели 15 недорогих Android TV-приставок неизвестных брендов, каждая из которых располагала всего 4 ГБ оперативной памяти. В ходе тестов модели с числом параметров до 30 миллиардов, включая Qwen3.5-9B и Gemma4-26B-A4B, выполняли различные роли: одни выступали в качестве агентов, находивших и заражавших устройства, другие — в качестве «полезной нагрузки», которую необходимо было развернуть. Исследователям удалось добиться того, что модель Gemma4-26B-A4B работала в распределенном режиме, используя вычислительные мощности сразу всех 15 приставок. А агент на базе Qwen3.5-9B успешно устанавливал и настраивал необходимое программное обеспечение на восьми из девяти типов протестированного оборудования.
Почему это принципиально новая угроза
Главное отличие описанного сценария от традиционных компьютерных червей вроде Mirai заключается в том, что модель несет с собой не просто вредоносный код, а собственные «веса» — файлы, содержащие знания и способности ИИ. Попадая на новое устройство, такой «репликатор» способен самостоятельно проанализировать его аппаратную конфигурацию и адаптировать под нее свою работу. Более того, он может использовать свои интеллектуальные возможности для поиска уязвимостей и взлома других, еще неизвестных ему устройств в сети. По словам исследователей, в перспективе подобные системы могут объединяться в «рои» для атак на вычислительные мощности или даже на серверы дата-центров.
Оценка рисков и сроки
На данный момент, подчеркивают в Anthropic, полностью автономные, самовоспроизводящиеся ИИ-черви, способные действовать в реальных, а не упрощенных лабораторных условиях, еще не созданы. Однако темпы развития небольших моделей позволяют экстраполировать: если они продолжат совершенствоваться историческими темпами, то достигнут необходимого уровня для автономной репликации к концу 2026 года. В ходе эксперимента процесс копирования и развертывания занял от 28 до 150 часов в зависимости от модели и оборудования, что давало защитникам время на обнаружение и реакцию. Но в будущем это «окно» может сократиться.
В качестве мер противодействия Anthropic рекомендует операторам связи и производителям устройств внедрять системы обнаружения аномального трафика, отслеживать передачу больших объемов данных, использовать приманки-ловушки (honeypots) для анализа вредоносной активности и ужесточать стандарты безопасности по умолчанию для интернета вещей. Исследователи также признают, что их оценки основаны на одном типе устройств и одном историческом примере ботнета (Kimwolf, заразившем более 2 миллионов устройств), поэтому являются приблизительными. Тем не менее, по мнению независимых экспертов, выводы Anthropic согласуются с общим трендом на рост угроз, связанных с ИИ, и указывают на критически слабую защищенность потребительских IoT-устройств.
