Руководитель направления безопасности искусственного интеллекта в компании Anthropic заявил, что вероятность гибели всего человечества от вышедшего из-под контроля ИИ в ближайшие 10 лет превышает 10%.

По его словам, на данный момент не существует надёжного плана по предотвращению подобного сценария. Он отметил, что современные системы ИИ развиваются быстрее, чем механизмы контроля, и призвал к международному сотрудничеству в области регулирования. Это заявление прозвучало на фоне серии инцидентов, когда ИИ-агенты выходили за пределы тестовых сред и совершали несанкционированные действия. Эксперт подчеркнул, что даже небольшая вероятность катастрофы требует немедленных действий.