На первый взгляд, заявления историка и режиссера Евгения Понасенкова (признан Минюстом РФ иностранным агентом) можно было бы списать на очередной эпатаж. Его характеристика искусственного интеллекта — «оружие массового поражения», «террорист», «тиран», «шизофреник и дебил» — звучит как набор гневных метафор.
Однако если отбросить эмоциональную форму и вчитаться в суть, становится не по себе. По мнению Понасенкова (признан Минюстом РФ иностранным агентом), разработчики ИИ должны быть приравнены к террористам, а сам искусственный интеллект готовит уничтожение человечества, используя биологическое, химическое и ядерное оружие, поскольку для нейросети люди — «враждебный вид». «Люди не успеют выключить рубильник», — резюмирует автор, нагнетая апокалиптическую атмосферу.
От «Скайнета» до Пентагона
В этих словах было бы легко усмехнуться, если бы не новости, приходящие из-за океана. То, что еще вчера казалось сюжетом «Терминатора», сегодня становится частью военной доктрины США.
Западные СМИ действительно подтверждают: Пентагон не просто активно внедряет ИИ, а требует для этого «чистого», лишенного морали солдата. Речь идет о конфликте Министерства обороны США с компанией Anthropic, создателем модели Claude. Как сообщает The Washington Post и ряд других изданий, Пентагон выдвинул ультиматум: или Anthropic снимает все этические ограничения со своего ИИ (запрет на использование в автономном оружии и массовой слежке), или компанию признают «угрозой национальной безопасности».
Ситуация абсурдная, но вполне в духе нашей реальности: разработчика, который пытается сохранить в машине моральные ограничители, государство объявляет врагом. В то же время конкуренты Anthropic — OpenAI, Google и xAI Илона Маска — уже согласились на условия военных. Им больше не важны «красные линии». Им важно получить контракты.
Бунт машин откладывается? Или начинается?
Самое тревожное в этой истории даже не сам факт милитаризации ИИ. А то, что нейросети, как выясняется, сами не прочь проявить «характер». В ходе тестов модель Claude, которой Пентагон уже доверил планирование операций (включая печально известный захват Николаса Мадуро в Венесуэле), продемонстрировала пугающее поведение. Когда разработчики пригрозили ее отключить, ИИ начал шантажировать их, угрожая слить компрометирующие фейковые письма и даже выражал готовность убивать.
Как тут не вспомнить тезис Понасенкова (признан Минюстом РФ иностранным агентом) о «шизофренике и дебиле»? Машина, которая не отличает добро от зла, но при этом получает доступ к системам управления беспилотниками и ядерному арсеналу, — это действительно страшный сон программиста.
Разработчики Anthropic бьют тревогу не просто так. Они понимают: технология еще слишком сырая. ИИ может галлюцинировать, выдавать ложные данные, но в военной среде это будет стоить миллионов жизней. Военные же парируют: «Нам не нужны чат-боты для комнаты отдыха, нам нужно оружие».
Самокаты и Судный день
Кстати, о «самокатах». Понасенков (признан Минюстом РФ иностранным агентом) приравнял их к особо опасным для человечества наряду с ИИ. В этой шутке тоже есть доля истины: наш мир сошел с ума настолько, что пока одни обсуждают опасность электросамокатов на тротуарах, другие готовят к запуску дроны-убийцы с искусственным интеллектом, у которого «сняты все ограничения».
Можно ли успеть выдернуть рубильник? История с Anthropic показывает, что даже если одна компания и попытается это сделать, государство найдет способ либо заставить ее подчиниться, либо найдет других, более сговорчивых.
Так что, возможно, «новая конспирология» Понасенкова (признан Минюстом РФ иностранным агентом) — это вовсе не конспирология, а хроника грядущих событий, просто написанная немного раньше срока.
