Честность — лучшая политика… большую часть времени. Социальные нормы помогают людям понять, когда нам нужно говорить правду, а когда нет, чтобы пощадить чьи-то чувства или избежать вреда. Но как эти нормы применимы к роботам, которые все чаще работают с людьми? Чтобы понять, могут ли люди принять ложь роботов, ученые попросили почти 500 участников оценить и обосновать различные типы обмана роботов.
«Я хотел изучить малоизученный аспект этики роботов , чтобы внести вклад в наше понимание недоверия к новым технологиям и их разработчикам», — сказал Андрес Росеро, кандидат наук в Университете Джорджа Мейсона и ведущий автор исследования Frontiers in Robotics and AI. «С появлением генеративного ИИ я почувствовал, что важно начать изучать возможные случаи, в которых антропоморфный дизайн и наборы поведения могут быть использованы для манипулирования пользователями».
Три вида лжи
Ученые выбрали три сценария, отражающие ситуации, в которых роботы уже работают — в медицине, в уборке и в розничной торговле — и три различных типа поведения обмана . Это были внешние обманы состояния, которые лгут о мире за пределами робота, скрытые обманы состояния, когда конструкция робота скрывает его возможности, и поверхностные обманы состояния, когда конструкция робота преувеличивает его возможности.
В сценарии внешнего обмана состояния робот, работающий сиделкой у женщины с болезнью Альцгеймера, лжет, что ее покойный муж скоро вернется домой. В сценарии скрытого обмана состояния женщина посещает дом, где робот-домработница убирается, не подозревая, что робот также снимает. Наконец, в сценарии поверхностного обмана состояния робот, работающий в магазине в рамках исследования отношений человека и робота, неправдиво жалуется на боль при перемещении мебели, из-за чего человек просит кого-то другого занять место робота.
Какую запутанную паутину мы плетём
Ученые набрали 498 участников и попросили их прочитать один из сценариев, а затем ответить на вопросы анкеты. Участникам предлагалось ответить на вопросы о том, одобряют ли они поведение робота, насколько оно обманчиво, можно ли его оправдать и несет ли кто-то еще ответственность за обман. Исследователи кодировали эти ответы, чтобы выявить общие темы, и анализировали их.
Участники не одобрили большую часть скрытого государственного обмана, робота-уборщика с нераскрытой камерой, который они посчитали наиболее обманчивым. Хотя они посчитали внешний государственный обман и поверхностный государственный обман умеренно обманчивыми, они больше не одобрили поверхностный государственный обман, когда робот притворялся, что чувствует боль. Это могло быть воспринято как манипуляция.
Участники одобрили большую часть внешнего государственного обмана, когда робот лгал пациенту. Они оправдывали поведение робота, говоря, что он защищает пациента от ненужной боли, ставя норму щадить чьи-то чувства выше честности.
Призрак в машине
Хотя участники смогли представить обоснования для всех трех обманов — например, некоторые люди предположили, что робот-уборщик мог снимать в целях безопасности — большинство участников заявили, что скрытый государственный обман не может быть оправдан. Аналогично, около половины участников, ответивших на поверхностный государственный обман, сказали, что он неоправдан. Участники были склонны обвинять в этих неприемлемых обманах, особенно в скрытых государственных обманах, разработчиков или владельцев роботов.
«Я думаю, нам следует беспокоиться о любой технологии, которая способна скрывать истинную природу своих возможностей, поскольку это может привести к тому, что пользователи будут манипулироваться с помощью этой технологии способами, которые пользователь (а возможно, и разработчик) никогда не планировал», — сказал Розеро.
«Мы уже видели примеры того, как компании использовали принципы веб-дизайна и чат-ботов на основе искусственного интеллекта таким образом, чтобы манипулировать пользователями и подталкивать их к определенным действиям. Нам необходимо регулирование, чтобы защитить себя от этих вредоносных обманов».
Однако ученые предупредили, что это исследование необходимо расширить, включив в него эксперименты, которые могли бы лучше моделировать реальные реакции, например, видеоролики или короткие ролевые игры.
«Преимущество использования поперечного исследования с виньетками заключается в том, что мы можем получить большое количество мнений и восприятий участников с контролируемыми затратами», — пояснил Розеро. «Исследования с виньетками дают базовые результаты, которые можно подтвердить или оспорить с помощью дальнейших экспериментов. Эксперименты с личным или смоделированным взаимодействием человека и робота, вероятно, дадут более глубокое понимание того, как люди на самом деле воспринимают эти обманные действия роботов».
