Внутренняя борьба за то, создала ли Google технологию с человеческим сознанием, выплеснулась наружу, обнажив амбиции и риски, присущие искусственному интеллекту, которые могут показаться слишком реальными.

На прошлой неделе гигант Силиконовой долины уволил одного из своих инженеров, который утверждал, что система искусственного интеллекта LaMDA кажется «разумной», с чем Google официально не согласен.

Несколько экспертов сообщили, что они также очень скептически относятся к заявлению о сознании, но говорят, что человеческая природа и амбиции могут легко запутать проблему.

«Проблема в том, что… когда мы сталкиваемся со строками слов, принадлежащих языкам, на которых мы говорим, мы понимаем их», — говорит Эмили М. Бендер, профессор лингвистики Вашингтонского университета.

«Мы делаем работу по воображению разума, которого нет», — добавила она.

LaMDA — это чрезвычайно мощная система, которая использует передовые модели и обучение более чем 1,5 триллионам слов, чтобы иметь возможность имитировать то, как люди общаются в письменных чатах.

Система была построена на модели, которая наблюдает, как слова соотносятся друг с другом, а затем предсказывает, какие слова, по ее мнению, будут следующими в предложении или абзаце, согласно объяснению Google.

«На каком-то уровне это все еще просто сопоставление с образцом», — сказал Шашанк Сривастава, доцент компьютерных наук в Университете Северной Каролины в Чапел-Хилл.

«Конечно, вы можете найти некоторые нити действительно того, что могло бы показаться содержательным разговором, какой-то очень творческий текст, который они могли бы создать. Но во многих случаях он быстро меняется», — добавил он.

Тем не менее, определение сознания становится сложным.

Он часто включал в себя контрольные показатели, такие как тест Тьюринга, который считается пройденным, если человек ведет с ним письменный чат, но не может сказать.

«На самом деле это довольно простой тест для любого ИИ нашего поколения здесь, в 2022 году», — сказал Марк Кингвелл, профессор философии Университета Торонто.

«Более сложный тест — это контекстуальный тест, из-за которого современные системы, кажется, сбиваются с толку, знания здравого смысла или фоновые идеи — те вещи, с которыми алгоритмам трудно справляться», — добавил он.

«Нет простых ответов»

ИИ остается деликатной темой в мире технологий и за его пределами, которая может вызывать удивление, но также и некоторый дискомфорт.

В своем заявлении Google быстро и твердо преуменьшила значение того, обладает ли LaMDA самосознанием.

«Эти системы имитируют обмен репликами, встречающийся в миллионах предложений, и могут затрагивать любую фантастическую тему», — заявили в компании.

«Сотни исследователей и инженеров общались с LaMDA, и мы не знаем, чтобы кто-то еще делал… широкомасштабные утверждения или антропоморфизировал LaMDA», — добавил он.

По крайней мере, некоторые эксперты расценили ответ Google как попытку прекратить разговор на важную тему.

«Я думаю, что публичное обсуждение этого вопроса чрезвычайно важно, потому что общественное понимание того, насколько это неприятно, имеет ключевое значение», — сказала академик Сьюзен Шнайдер.

«Нет простых ответов на вопросы о сознании машин», — добавил директор-основатель Центра будущего разума Атлантического университета Флориды.

Отсутствие скептицизма со стороны тех, кто работает над этой темой, также возможно в то время, когда люди «плавают в огромном количестве шумихи вокруг ИИ», как выразился профессор лингвистики Бендер.

«И на это тратится много-много денег. Поэтому люди, работающие над этим, имеют очень сильный сигнал о том, что они делают что-то важное и реальное», в результате чего они не обязательно «поддерживают соответствующий скептицизм», — добавила она.

В последние годы искусственный интеллект также страдал от неправильных решений — Бендер сослался на исследование, которое показало, что языковая модель может улавливать расистские и антииммигрантские предубеждения при обучении в Интернете.

Кингуэлл, профессор Университета Торонто, сказал, что вопрос о разумности ИИ является частью «О дивный новый мир» и частью «1984», двух антиутопических произведений, затрагивающих такие вопросы, как технологии и свобода человека.

«Я думаю, что многие люди на самом деле не знают, куда повернуть, и отсюда тревога», — добавил он.