Бывший сотрудник одной из крупнейших американских лабораторий искусственного интеллекта Джейкоб Коксон объявил об уходе из индустрии, обвинив своих работодателей в безответственной гонке за созданием сверхразума, способного к самосовершенствованию. 27-летний исследователь, три года занимавшийся предобучением моделей, заявил, что компании, в которых он работал, «ставят на кон наши жизни» и «играют в рулетку» с будущим человечества.
Коксон начал свою карьеру в области ИИ в одной из ведущих американских лабораторий, а затем перешёл в конкурирующую организацию, которую считал более осторожной в вопросах безопасности. Однако, по его словам, обе структуры оказались заложниками гонки, где остановка означает потерю позиций. «Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями», — написал он в социальной сети X.
Главный страх исследователя связан с так называемым рекурсивным самоулучшением — сценарием, при котором искусственный интеллект берёт на себя достаточную часть исследований в собственной области и начинает ускоренно создавать всё более мощные версии самого себя. По оценке Коксона, человечество движется по «одному из самых агрессивных сценариев», при котором уже к концу 2027 года ситуация может выйти из-под контроля.
Особое внимание Коксон уделил разрыву между публичной риторикой руководителей ИИ-компаний и их частными разговорами. «Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же самые люди выражают страх наедине», — подчеркнул он.
Позицию Коксона поддержал руководитель одного из направлений безопасности в его бывшей компании Эван Хубингер. «Мы действительно всерьёз считаем, что ИИ может убить всех людей», — написал он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10%. По его словам, лаборатория старается действовать ответственно, однако не имеет готового плана, который гарантировал бы согласование поведения сверхинтеллекта с человеческими целями.
Уход Коксона стал вторым громким случаем за год: в феврале аналогичное решение принял руководитель исследовательской группы по безопасности, предупредивший о «мире в опасности». Внутри лабораторий, по словам Коксона, всё чаще звучат слова «crunchtime» и «endgame», отражающие ощущение приближающейся финальной стадии.
На фоне этих заявлений в США уже предложен законопроект о приостановке разработки сверхмощных ИИ-систем до создания федерального регулятора. Однако пока отрасль продолжает движение к технологической сингулярности, исследователи, покидающие её, оставляют после себя лишь предупреждения о том, что человечество может не успеть осознать последствия своего творения.
