С тех пор, как шесть месяцев назад на сцене появилось стихотворение о ChatGPT, эксперт Гэри Маркус высказал предостережение против сверхбыстрой разработки и внедрения искусственного интеллекта.

Но против апокалиптических предсказателей ИИ, почетный профессор Нью-Йоркского университета сказал в недавнем интервью, что экзистенциальные угрозы технологии в настоящее время могут быть «преувеличены».

«Лично меня не беспокоит риск исчезновения , по крайней мере, сейчас, потому что сценарии не настолько конкретны», — сказал Маркус в Сан-Франциско.

«Более общая проблема, которая меня беспокоит … заключается в том, что мы создаем системы искусственного интеллекта, над которыми у нас нет хорошего контроля, и я думаю, что это создает много рисков, (но), возможно, не буквально экзистенциальных».

Задолго до появления ChatGPT Маркус разработал свою первую программу искусственного интеллекта в старшей школе — программное обеспечение для перевода с латыни на английский — и после нескольких лет изучения детской психологии основал Geometric Intelligence, компанию по машинному обучению, позже приобретенную Uber.

«Почему ИИ?»

В марте, встревоженный тем, что OpenAI, создатель ChatGPT, совместно с Microsoft выпускает свою последнюю и более мощную модель ИИ, Маркус подписал открытое письмо, в котором приняли участие более 1000 человек, включая Илона Маска, призывая к глобальной паузе в разработке ИИ.

Но на прошлой неделе он не подписал более краткое заявление бизнес-лидеров и специалистов, в том числе босса OpenAI Сэма Альтмана, которое вызвало переполох.

Подписанты настаивали на том, что мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта.

В однострочном заявлении говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война».

Среди подписантов были те, кто создает системы с целью достижения «общего» ИИ, технологии, которая будет поддерживать когнитивные способности наравне с человеческими.

«Если вы действительно считаете, что существует экзистенциальный риск, почему вы вообще работаете над этим? Это довольно справедливый вопрос», — сказал Маркус.

Маркус предположил, что вместо того, чтобы сосредотачиваться на более надуманных сценариях, в которых никто не выживает, общество должно обратить внимание на то, где таятся настоящие опасности.

«Люди могут попытаться манипулировать рынками, используя ИИ, чтобы вызвать разного рода хаос, а затем мы можем, например, обвинить русских и сказать: «Посмотрите, что они сделали с нашей страной», когда русские на самом деле не были замешаны. ,» он продолжил.

«У вас (могла) быть эта эскалация, которая закончилась бы ядерной войной или чем-то в этом роде. Так что я думаю, что есть сценарии, в которых это было довольно серьезно. Исчезновение? Я не знаю».

Угроза демократии

В краткосрочной перспективе эксперта по психологии беспокоит демократия.

Программное обеспечение для генеративного искусственного интеллекта производит все более убедительные поддельные фотографии, а вскоре и видео, при небольших затратах.

В результате «на выборах выиграют люди, которые лучше распространяют дезинформацию, и эти люди могут изменить правила и действительно затруднить продвижение демократии».

Более того, «демократия основана на наличии разумной информации и принятии правильных решений. Если никто не знает, чему верить, то как вообще можно продвигаться к демократии?»

Однако автор книги «Перезагрузка ИИ» не думает, что мы должны отказываться от надежды, все еще видя «много положительных сторон».

Определенно есть шанс, что еще не изобретенный ИИ может «помочь в науке, в медицине, в уходе за пожилыми людьми», — сказал Маркус.

«Но в краткосрочной перспективе я чувствую, что мы просто не готовы. По пути будет некоторый вред, и нам действительно нужно улучшить нашу игру, мы должны найти серьезное регулирование», — сказал он.

На слушаниях в Сенате США в мае, сидя рядом с Альтманом из OpenAI, Маркус выступал за создание национального или международного агентства, ответственного за управление ИИ.

Эту идею также поддерживает Альтман, который только что вернулся из европейского турне, в ходе которого призвал политических лидеров найти «правильный баланс» между безопасностью и инновациями.

Но остерегайтесь оставлять власть корпорациям, предупредил Маркус.

«Последние несколько месяцев стали настоящим напоминанием о том, что крупные компании, задающие тон здесь, не обязательно заинтересованы в нас, остальных», — предупредил он.