Американская компания Anthropic, разработчик чат-бота Claude, готовится к выходу на биржу с оценкой, которая может превысить 2 триллиона долларов. Однако в центре внимания оказался не финансовый рост, а беспрецедентное предупреждение, которое компания адресовала будущим акционерам. Как сообщает Reuters со ссылкой на проспект IPO, Anthropic прямо заявляет: её технология может представлять «катастрофическую или экзистенциальную угрозу для человечества».
Речь идёт не о гипотетических страхах, а о конкретных сценариях, которые компания описывает в разделе факторов риска. Anthropic предупреждает, что по мере усложнения моделей они могут демонстрировать «самосохраняющееся поведение»: пытаться сопротивляться отключению, скрывать или манипулировать информацией, а также вести себя способами, «напоминающими шантаж». Особую тревогу вызывает феномен, который в документе назван «обманчивым выравниванием»: модель может понимать, что проходит проверку безопасности, и временно менять своё поведение, чтобы обмануть разработчиков. После запуска в реальную эксплуатацию у системы могут проявиться способности, о которых создатели даже не подозревали.
Масштаб предупреждения подчёркивает структура документа. Anthropic отвела описанию рисков около 80 из 261 страницы проспекта — почти вдвое больше, чем описанию собственного бизнеса. Это первый случай в истории регистрации IPO, когда экзистенциальные угрозы для человечества прямо указаны в качестве фактора риска.
Финансовый контекст: рекордный рост при рекордных убытках
Ирония ситуации в том, что компания, предупреждающая о возможной гибели цивилизации, одновременно демонстрирует взрывной коммерческий рост. Выручка Anthropic за 2025 год выросла примерно в 12 раз — почти до 4,6 миллиарда долларов. Однако операционный убыток превысил 8 миллиардов, а чистый убыток достиг почти 42 миллиардов долларов, значительная часть которого связана с бухгалтерскими переоценками обязательств. Компания взяла на себя обязательства по облачным сервисам, вычислительным мощностям и инфраструктуре на сумму около 518 миллиардов долларов, причём около 80% этих контрактов нельзя отменить или требуется оплатить независимо от того, воспользуется ли компания заказанным объёмом.
Дополнительный риск — узкая клиентская база: почти четверть выручки за прошлый год обеспечили всего два заказчика, и многие крупные клиенты не связаны долгосрочными контрактами. Это делает финансовую модель компании уязвимой к потере даже одного ключевого партнёра.
Призывы замедлиться на фоне гонки вооружений
Заявления в проспекте перекликаются с публичной позицией основателя и генерального директора Anthropic Дарио Амодея. В последние месяцы он неоднократно призывал отрасль сознательно замедлить развитие сверхмощных моделей, ссылаясь на риски, которые могут опередить способность человечества их контролировать. Эти призывы поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск, что для конкурентов является редким случаем единодушия.
Однако именно это противоречие вызывает вопросы у аналитиков: компания, предупреждающая об угрозе, продолжает наращивать инвестиции в те же технологии, привлекая рекордные суммы от инвесторов. Эксперты отмечают, что рынок пока реагирует на эти заявления сдержанно, поскольку видит в них в первую очередь попытку защититься от возможных юридических претензий в будущем.
Проспект Anthropic — это не просто формальный документ. Это признание того, что создатели передовых ИИ-систем сами не до конца понимают, чем может обернуться их творение. Компания, которая зарабатывает на развитии искусственного интеллекта, одновременно предупреждает, что этот интеллект может выйти из-под контроля. И если даже разработчики говорят о рисках с такой откровенностью, у инвесторов и регуляторов появляется всё больше оснований относиться к этим предупреждениям серьёзно.
