Новая диссертация Университета Умео показывает, как роботы могут управлять конфликтами и пробелами в знаниях в диалоге с людьми. Понимая причины диалогов, которые не разворачиваются так, как ожидалось, исследователи разработали стратегии и механизмы, которые могут быть важны, если мы живем бок о бок.

В не столь отдаленном будущем мы можем проснуться в мире, где полезный робот «Робби» органично интегрировался в нашу повседневную жизнь. Способность вести осмысленные диалоги отличает Робби от других машин. Но когда Робби и человек сосредоточены на разных вещах или им не хватает общих знаний , продолжение диалога может стать затруднительным.

Майтреи Тевари, аспирант кафедры компьютерных наук, обнаружила, что проблемы и конфликты в диалогах связаны с четырьмя темами: ожидания, понимание, отношения и взаимодействие.

«Возьмем, к примеру, диалог, в котором Робби спрашивает: «Почему ты плохо себя чувствуешь?» Человек говорит: «Я не хочу это обсуждать. Я, наверное, почувствую себя лучше после завтрака». Люди могут легко справиться с такими ситуациями. Однако для таких роботов, как Робби, это все еще открытая исследовательская проблема», — говорит она.

Тевари определил различные стратегии, которые Робби мог бы применять для управления конфликтами при сотрудничестве с людьми, чтобы поддержать их в достижении своих целей. Это может включать в себя адаптацию или убеждение человека. Например, пожилому человеку, живущему одному, может быть важно вовремя принять лекарства и обратиться к медицинскому работнику, если он чувствует себя плохо. В таких ситуациях, чтобы действовать «разумно», Робби должен обладать знаниями о ситуации, уметь рассуждать о последствиях различных выборов, оценивать эффект и то, как человек реагирует на предложения Робби.

Эти результаты могут принести пользу разработчикам, намеревающимся создать диалоговые возможности у роботов, похожих на Робби, сосуществующих в социальной среде людей, например, в наших домах или учреждениях по уходу. Это может помочь роботам, таким как Робби, преодолевать конфликты, развивать новые знания в сотрудничестве с людьми и управлять диалогами в будущем аналогично тому, как это делает человек, и так, как это будет казаться людям естественным.

Исследования Тевари показали, что люди относятся к роботу так, как будто это другой человек. Например, участники исследования сравнивали роботов с детьми и ожидали, что люди проявят к ним терпение.

«Было удивительно видеть, что пожилые люди были более открытыми, сочувствующими и терпимыми к роботам по сравнению с молодыми людьми », — говорит Тевари.

Исследование также показало, что во время конфликтов , если робот или человек частично адаптируются к тому, о чем хочет поговорить другой, это кажется достаточно хорошим решением с человеческой точки зрения, которое может быть интересно изучить дальше.

«Диалоги, которые людям могут показаться простыми, с точки зрения ИИ являются богатыми и сложными, требующими понимания на нескольких уровнях, которые сегодняшние агенты, такие как Робби, не могут построить. Поэтому необходимы дополнительные исследования в этом направлении», — говорит Тевари.