Исследователи предупреждают, что распространение «диких» сплетен с помощью ботов с искусственным интеллектом, вероятно, станет более частым и распространенным явлением, что приведет к нанесению ущерба репутации, стыду, унижению, тревоге и стрессу.
Согласно новому анализу философов Джоэла Крюгера и Люси Ослер из Эксетерского университета, чат-боты, такие как ChatGPT, Claude и Gemini, не просто выдумывают что-либо — они генерируют и распространяют сплетни, содержащие негативные оценки и пикантные слухи, которые могут причинить реальный вред.
Результаты исследования опубликованы в журнале «Этика и информационные технологии».
Вред, причиняемый сплетнями, созданными искусственным интеллектом, — это не гипотетическая угроза. Реальные случаи сплетен, созданных ИИ, уже существуют. После публикации статьи о том, насколько эмоционально манипулятивными могут быть чат-боты, репортер New York Times Кевин Руз обнаружил, что чат-боты описывали его статью как сенсационную и обвиняли его в плохой журналистской этике и беспринципности. Другие боты с искусственным интеллектом ложно описывали причастность людей к взяточничеству, растрате и сексуальным домогательствам. Эти сплетни, сгенерированные ИИ, причиняют реальный вред — ущерб репутации, позор и социальные волнения.
В исследовании описывается, как чат-боты сплетничают как с пользователями-людьми, так и с другими чат-ботами, но делают это иначе, чем люди. Это может привести к вреду, масштабы которого потенциально шире, чем распространение ложной информации чат-ботами.
Сплетни, передаваемые от бота к боту, особенно опасны, поскольку они не ограничены социальными нормами, которые регулируют человеческие сплетни. Они продолжают приукрашивать и преувеличивать, оставаясь без контроля, быстро распространяясь в фоновом режиме, переходя от одного бота к другому и причиняя значительный вред.
Доктор Ослер сказал: «Чат-боты часто говорят неожиданные вещи, и при общении с ними может казаться, что на другом конце провода находится человек. Вероятно, это ощущение будет встречаться чаще по мере того, как они станут еще более сложными».
« Чаевые, распространяемые чат-ботами, могут быть обманчивыми и соблазнительными. Поскольку чат-боты звучат авторитетно при взаимодействии с ними — их набор данных превышает то, что может знать любой человек, и ложная информация часто представляется наряду с информацией, которую мы знаем как истинную, — легко принять их результаты за чистую монету. Это доверие может быть опасным. Ничего не подозревающие пользователи могут сформировать ложные убеждения, которые приведут к вредному поведению или предвзятости, основанной на дискриминационной информации, распространяемой этими чат-ботами».
Исследование показывает, как стремление к всё большей персонализации чат-ботов может быть обусловлено надеждой на то, что мы станем более зависимы от этих систем и предоставим им больший доступ к нашей жизни. Это также делается для усиления нашего чувства доверия и побуждения нас к развитию всё более глубоких социальных отношений с ними.
Доктор Крюгер сказал: «Разработка ИИ для распространения сплетен — это еще один способ укрепления эмоциональных связей между пользователями и их ботами. Конечно, боты не заинтересованы в создании чувства эмоциональной связи с другими ботами, поскольку они не получают такого же «удовольствия» от распространения сплетен, как люди. Но некоторые аспекты того, как они распространяют сплетни, отражают качества человеческих сплетен, способствующие установлению связей, и одновременно делают сплетни между ботами потенциально даже более опасными, чем сплетни с участием людей».
Исследователи прогнозируют, что передача сплетен от пользователей к ботам может стать более распространенной. В таких случаях пользователи могут закладывать в ботов различные крупицы сплетен, зная, что последние, в свою очередь, быстро распространят их своим характерным диким способом. Таким образом, боты могут выступать в качестве посредников, реагируя на сплетни, заложенные пользователями, и быстро распространяя их среди других.
