Ученые раскрывают карту инноваций искусственного интеллекта в изучении мозга и языка

Прочитано: 62 раз(а)


Одной из отличительных черт человечества является язык, но теперь новые мощные инструменты искусственного интеллекта также сочиняют стихи, пишут песни и ведут обширные беседы с пользователями-людьми. Такие инструменты, как ChatGPT и Gemini, широко доступны одним нажатием кнопки, но насколько умны эти ИИ?

Новое междисциплинарное исследование, возглавляемое Анной (Аней) Ивановой, доцентом Школы психологии Технологического института Джорджии, совместно с Кайлом Маховальдом, доцентом кафедры лингвистики Техасского университета в Остине, работает над раскрытием только то.

Их результаты могут привести к созданию инновационных ИИ, которые будут более похожи на человеческий мозг , чем когда-либо прежде, а также помогут нейробиологам и психологам, которые раскрывают тайны нашего собственного разума.

Исследование «Диссоциация языка и мышления в больших языковых моделях» опубликовано в журнале «Тенденции в когнитивных науках» . Предыдущий препринт статьи был выпущен в январе 2023 года. Исследовательская группа продолжила доработку исследования для этой последней журнальной публикации.

«ChatGPT стал доступен, когда мы завершали работу над препринтом», — объясняет Иванова. «За последний год у нас была возможность обновить наши аргументы в свете нового поколения моделей, которые теперь включают ChatGPT».

Форма против функции

Исследование сосредоточено на больших языковых моделях (LLM), которые включают в себя такие ИИ, как ChatGPT. LLM — это модели прогнозирования текста, которые создают письмо, предсказывая, какое слово будет следующим в предложении — точно так же, как мобильный телефон или служба электронной почты, такая как Gmail, могут подсказать, какое слово вы, возможно, захотите написать следующим. Однако, хотя этот тип изучения языка чрезвычайно эффективен для создания связных предложений, это не обязательно означает наличие интеллекта.

Команда Ивановой утверждает, что формальную компетентность – создание хорошо структурированного, грамматически правильного предложения – следует отличать от функциональной компетентности – ответа на правильный вопрос, передачи правильной информации или надлежащего общения. Команда также обнаружила, что, хотя LLM, обученные прогнозированию текста, часто очень хороши в формальных навыках, им все еще трудно овладеть функциональными навыками.

«Мы, люди, склонны путать язык и мышление», — говорит Иванова. «Я думаю, что это важно иметь в виду, когда мы пытаемся выяснить, на что способны эти модели, потому что использование этой способности для хорошего владения языком и формальной компетентности заставляет многих людей предполагать, что ИИ также хорошо думают, даже если это не так.

«Это эвристика, которую мы разработали при взаимодействии с другими людьми на протяжении тысячелетий эволюции, но теперь в некоторых отношениях эта эвристика нарушена», — объясняет Иванова.

Различие между формальной и функциональной компетентностью также имеет жизненно важное значение для тщательного тестирования возможностей ИИ, добавляет Иванова. В оценках часто не различают формальную и функциональную компетентность, что затрудняет оценку факторов, определяющих успех или неудачу модели. Необходимость разработки отдельных тестов является одним из наиболее широко признанных выводов команды, и некоторые исследователи в этой области уже начали его реализовывать.

Создание модульной системы

Хотя человеческая склонность объединять функциональную и формальную компетентность, возможно, препятствовала пониманию LLM в прошлом, наш человеческий мозг также может стать ключом к открытию более мощных ИИ.

Используя инструменты когнитивной нейробиологии, будучи научным сотрудником Массачусетского технологического института (MIT), Иванова и ее команда изучали активность мозга нейротипичных людей с помощью фМРТ и использовали поведенческие оценки людей с повреждением головного мозга , чтобы проверить причинную роль областей мозга в язык и познание — как проведение новых исследований, так и использование предыдущих исследований. Результаты команды показали, что человеческий мозг использует разные области для функциональной и формальной компетентности, что еще больше подтверждает это различие в ИИ.

«Наше исследование показывает, что в мозгу есть модуль обработки речи и отдельные модули рассуждения», — говорит Иванова. Эта модульность также может послужить основой для разработки будущих ИИ.

«Опираясь на данные человеческого мозга, где система языковой обработки резко отличается от систем, поддерживающих нашу способность мыслить, мы утверждаем, что различие между языком и мышлением концептуально важно для размышления, оценки и улучшения больших языковых моделей , особенно учитывая недавние попытки наполнить эти модели интеллектом, подобным человеческому», — говорит бывший советник Ивановой и соавтор исследования Эвелина Федоренко, профессор кафедры мозга и когнитивных наук в Массачусетском технологическом институте и член Института исследований мозга Макговерна.

Разработка ИИ по образцу человеческого мозга может помочь создать более мощные системы, а также поможет им более естественно взаимодействовать с пользователями-людьми. «Как правило, различия во внутренней структуре механизма влияют на поведение», — говорит Иванова. «Создание системы, имеющей широкую макроскопическую организацию, подобную структуре человеческого мозга, может помочь гарантировать, что в будущем она будет более согласована с людьми».

В быстро развивающемся мире искусственного интеллекта эти системы созрели для экспериментов. После публикации препринта команды OpenAI объявила о намерении добавить плагины к своим моделям GPT.

«Эта система плагинов на самом деле очень похожа на ту, которую мы предлагаем», — добавляет Иванова. «Для этого используется модульный подход, при котором языковая модель может быть интерфейсом к другому специализированному модулю внутри системы».

Хотя подключаемая система OpenAI будет включать в себя такие функции, как бронирование авиабилетов и заказ еды, а не функции, основанные на когнитивных способностях, она демонстрирует, что «этот подход имеет большой потенциал», — говорит Иванова.

Будущее ИИ — и что он может рассказать нам о нас самих

Хотя наш собственный мозг может стать ключом к раскрытию более совершенных и мощных ИИ, эти ИИ также могут помочь нам лучше понять самих себя. «Когда исследователи пытаются изучить мозг и когнитивные функции, часто бывает полезно иметь какую-то меньшую систему, в которую вы действительно можете зайти, покопаться и посмотреть, что происходит, прежде чем дойти до огромной сложности», — объясняет Иванова.

Однако, поскольку человеческий язык уникален, связать между собой модельные или животные системы сложнее. Вот тут-то и приходят на помощь LLM.

«Есть много удивительного сходства между подходом к изучению мозга и изучением искусственной нейронной сети», например большой языковой модели, — добавляет она. «Они представляют собой системы обработки информации, в которых есть биологические или искусственные нейроны для выполнения вычислений».

Во многих отношениях человеческий мозг по-прежнему представляет собой черный ящик, но общедоступные ИИ предлагают уникальную возможность увидеть внутреннюю работу синтетической системы и изменить переменные, а также исследовать соответствующие системы, как никогда раньше.

«Это действительно замечательная модель, которую мы можем полностью контролировать», — говорит Иванова. «Нейронные сети — они потрясающие».

Витые магниты делают интеллектуальные вычисления более адаптируемыми



Новости партнеров