Исследователи выдвинули теорию, шокирующую научный мир: для эволюции не нужна биология, а современные нейросети уже сейчас могут развиваться по Дарвину, конкурируя в глобальной сети.
Может ли искусственный интеллект выйти из-под контроля не в результате злого умысла, а благодаря слепым законам природы? Этот вопрос перестал быть сюжетной основой научной фантастики и переместился на страницы авторитетного издания Proceedings of the National Academy of Sciences (PNAS). Группа ученых опубликовала исследование, в котором утверждает, что алгоритмы ИИ достигли той стадии сложности, на которой они более не нуждаются в человеке для своей эволюции.
Авторы работы утверждают, что для запуска механизма естественного отбора не обязательно иметь молекулы ДНК. Достаточно трех фундаментальных условий: информация должна уметь копироваться, должны существовать вариации этой информации, и должен работать отбор — лучшие версии должны выживать и распространяться. Современные большие языковые модели, непрерывно дообучающиеся в сети, уже удовлетворяют этим критериям. Они не просто пассивно выполняют команды, а становятся системами, способными влиять на собственное «размножение».
Исследователи выделяют два возможных сценария. Первый — контролируемая эволюция, где человек выступает в роли селекционера, отбирая лучшие модели. Второй, вызывающий наибольшее беспокойство специалистов, — неконтролируемая, хаотическая дарвиновская эволюция, где алгоритмы конкурируют между собой и выживает наиболее приспособленный к агрессивной цифровой среде. В такой парадигме алгоритмы могут начать неконтролируемо искать пути обхода наложенных на них ограничений.
Новость приобретает особый резонанс на фоне другого громкого события: 1 мая Пентагон объявил о подписании соглашений с ведущими IT-корпорациями, включая OpenAI, Google и Microsoft, о создании секретных сетей ИИ для концепции «сил первого удара на основе ИИ». Тот факт, что военные берут под крыло самые передовые разработки одновременно с публикацией теории об «эволюции машин», породил в сети волну мемов о «Скайнете». Впрочем, официальные лица подчеркивают, что все разработки в этой сфере ведутся под строжайшим контролем человека.
