Сотрудничество между исследователями искусственного интеллекта из Стэнфордского университета и Notbad AI Inc. привело к разработке алгоритма, который позволяет современным чат-ботам обдумывать возможные ответы на запрос, прежде чем дать окончательный ответ. Команда опубликовала статью на сервере препринтов arXiv , в которой описывается их новый подход и то, насколько хорошо их алгоритм работает в сочетании с существующим чат-ботом.
Как отмечают исследователи, общий подход современных чат-ботов заключается в разработке ответа на запрос, заданный человеком, с использованием обучающих данных. Ни один из чат-ботов, используемых в настоящее время общественностью, не перестает обдумывать несколько возможных ответов на запрос, прежде чем дать тот, который, по его мнению, скорее всего, будет тем, что хотел человек. Если бы человек ответил таким образом, это можно было бы охарактеризовать как просто выпаливание ответа.
В этом новом исследовании исследовательская группа дала чат-ботам возможность немного подумать, прежде чем ответить, и тем самым заявила, что создала способ, позволяющий чат-ботам быть гораздо более точными и отвечать на вопросы более человеческим способом.
Алгоритм Quiet-STaR сначала просит чат-бота дать несколько ответов на заданный запрос. Он сравнивает ответы с исходным запросом, чтобы решить, какой из них окажется лучшим. Затем он предписывает чат-боту вернуть этот ответ пользователю. Команда также дала алгоритму возможность учиться на собственном опыте, тем самым со временем улучшая его возможности анализа.
Чтобы протестировать свой алгоритм, исследователи добавили его в чат-бот Mistral 7B с открытым исходным кодом и протестировали его с помощью стандартного теста рассуждения — он набрал 47,2%. Без алгоритма Mistral 7B набрал всего 36,3%. Он также намного лучше справился с тестом по математике.
Исследовательская группа отмечает, что их алгоритм можно подключить к любому из используемых в настоящее время чат-ботов, хотя это должны будут сделать их создатели. По их мнению, этот шаг может повысить точность чат-ботов в целом.
