Известный историк и футуролог Юваль Ной Харари вновь привлёк внимание к рискам, связанным с развитием искусственного интеллекта, заявив, что человечество стоит на пороге утраты доминирующего положения в истории. В своём выступлении он сравнил появление автономных ИИ-систем с инопланетным вторжением, отметив, что «пришельцы» на этот раз прибывают не из космоса, а из лабораторий.
«Это конец истории, в которой доминировал человек»
Ключевой тезис Харари, который он сформулировал в интервью и публичных выступлениях, сводится к тому, что нынешний этап развития технологий знаменует собой качественный разрыв с прошлым. По его словам, «это конец человеческой истории. Точнее, конец истории, в которой доминировал человек. История продолжится, но контролировать её будет кто-то другой». В отличие от прежних технологических революций, ИИ не является просто инструментом, который человек использует по своему усмотрению. Харари подчёркивает: ИИ — это «интеллектуальный агент, способный самостоятельно принимать решения и генерировать идеи, которые его создатели не могли предвидеть».
Сроки и «инопланетная» аналогия
Футуролог оценивает горизонт радикальных изменений в пять лет, утверждая, что за этот период появится технология, способная независимо создавать новые идеи. Для иллюстрации он прибегает к метафоре, которая стала центральной в его недавних выступлениях: «Я склонен рассматривать это скорее как настоящее инопланетное вторжение. Как если бы флот пришельцев прибыл с планеты Зиркон… неся с собой высокоинтеллектуальных существ. Это именно то, с чем мы сталкиваемся, за исключением того, что пришельцы прилетают не на космических кораблях с планеты Зиркон — они выходят из лабораторий». По его мнению, эти системы могут быть «дружелюбными» и даже помочь решить проблемы рака и изменения климата, но никто не может дать гарантий относительно их целей.
Главная угроза — разобщённость человечества
Харари не утверждает, что катастрофа неизбежна. Его беспокоит не столько сам ИИ, сколько неспособность людей объединиться перед лицом нового вызова. «Если люди будут разделены между собой и продолжат гонку вооружений, то сдержать этот «инопланетный» разум станет практически невозможно», — предупреждает он. В этой логике технологическая гонка между государствами, каждое из которых стремится получить превосходство, а не обеспечить безопасность, становится главным препятствием для выработки общих правил и механизмов контроля. Именно разобщённость, по его мнению, превращает потенциально управляемый процесс в экзистенциальный риск.
«Коллективное слабоумие» как скрытая угроза
Помимо сценариев с «восставшими роботами», Харари указывает на более тонкую и, возможно, более вероятную опасность — утрату человечеством способности понимать системы, которые управляют его жизнью. Он называет это «коллективным слабоумием»: люди перестают осознавать логику работы финансовых, юридических и административных систем, поскольку эти системы становятся слишком сложными для человеческого понимания. В будущем, по его прогнозу, ИИ будет всё активнее участвовать в управлении этими сферами, и решения, которые он принимает, окажутся вне зоны критического анализа со стороны человека.
Контекст: не первый и не последний прогноз
Высказывания Харари не являются изолированными. На протяжении последних лет он последовательно предупреждает об угрозах, связанных с ИИ, и его риторика становится всё более радикальной. Ранее он сравнивал людей с «коровами будущего», которые не понимают финансовую систему, управляющую их жизнью, и предупреждал, что через 10–20 лет человечество может оказаться в аналогичном положении по отношению к ИИ-системам. Однако нынешнее заявление примечательно тем, что в нём обозначен конкретный временной горизонт — пять лет — и использована предельно яркая метафора «вторжения», которая выводит дискуссию за рамки академического анализа.
Для широкой аудитории предупреждение Харари — это ещё один сигнал о том, что темпы развития ИИ опережают способность общества осознавать и регулировать последствия. Для политиков и регуляторов — аргумент в пользу международного сотрудничества и выработки общих правил, без которых конкуренция за технологическое превосходство может привести к неконтролируемым рискам. Для технологических компаний — напоминание о том, что вопросы безопасности и прозрачности не могут оставаться второстепенными по отношению к коммерческим целям. Окончательные выводы делать рано, но одно очевидно: Харари продолжает настаивать на том, что окно возможностей для сохранения человеческого контроля над ИИ стремительно закрывается, и цена промедления может оказаться несоразмерно высокой.




