Клоны ИИ, сделанные из пользовательских данных, представляют сверхъестественные риски

Прочитано: 178 раз(а)


Представьте, если хотите, цифрового двойника. Клон, который выглядит, говорит и ведет себя точно так же, как вы, созданный из глубин искусственного интеллекта и отражающий все ваши манеры с жуткой точностью. Как бы захватывающе это ни звучало, как бы вы к этому отнеслись?

Наше исследование в Университете Британской Колумбии обращает внимание на этот вопрос. Благодаря достижениям в технологиях глубокого обучения, таких как интерактивные приложения для дипфейка , преобразование голоса и виртуальные актеры , стало возможным цифровое воспроизведение внешности и поведения человека.

Это зеркальное отражение человека, созданное искусственным интеллектом, называется «клоном ИИ». Наше исследование погружается в мутные воды того, что эти клоны ИИ могут означать для нашего самовосприятия, отношений и общества. В нашей статье, опубликованной в рамках Proceedings of ACM on Human-Computer Interaction , мы определили три типа рисков, связанных с репликами ИИ: боязнь двойников, фрагментация идентичности и живые воспоминания.

Клонирование ИИ

Мы определили клоны ИИ как цифровые представления людей, предназначенные для отражения некоторых или нескольких аспектов реального «исходного человека».

В отличие от вымышленных персонажей в цифровой среде, эти ИИ-клоны основаны на существующих людях, потенциально имитируя их внешнее сходство, разговорные манеры или модели поведения. Глубина репликации может сильно различаться: от воспроизведения определенных отличительных черт до создания почти идеального цифрового двойника.

Клоны ИИ также представляют собой интерактивные технологии, предназначенные для интерпретации пользовательского и внешнего ввода, проведения внутренней обработки и получения ощутимых результатов. И что особенно важно, это технологии на основе искусственного интеллекта, основанные на личных данных.

По мере того, как объем генерируемых нами персональных данных продолжает расти, растет и точность этих клонов ИИ в воспроизведении нашего поведения.

Страхи, фрагменты и ложные воспоминания

Мы представили 20 участникам восемь спекулятивных сценариев с участием клонов ИИ. Участники были разного возраста и происхождения, и они размышляли о своих эмоциях и потенциальном воздействии на их самовосприятие и отношения.

Во-первых, мы обнаружили, что боязнь двойников — это боязнь не только самого клона ИИ, но и его потенциального неправильного использования. Участники беспокоились, что их цифровые коллеги могут использовать и вытеснять их личность.

Во-вторых, существовала угроза фрагментации идентичности. Создание реплик угрожает уникальной индивидуальности клонируемого человека, вызывая нарушение его целостного самовосприятия. Другими словами, люди беспокоятся, что могут потерять часть своей уникальности и индивидуальности в процессе воспроизведения.

Наконец, участники выразили озабоченность по поводу того, что мы назвали «живыми воспоминаниями». Это относится к опасности, возникающей, когда человек взаимодействует с клоном кого-то, с кем у него уже есть отношения. Участники беспокоились, что это может привести к искажению личности или что у них разовьется чрезмерная привязанность к клону, что изменит динамику межличностных отношений.

Сохранение человеческих ценностей

Очевидно, что разработка и развертывание клонов ИИ имеет серьезные последствия . Наше исследование не только вносит ценный вклад в критический диалог об этичности ИИ, но также предлагает новую основу для разработки клонов ИИ, в которой приоритет отдается идентичности и подлинности.

Все заинтересованные стороны, включая проектировщиков, разработчиков, политиков и конечных пользователей, обязаны ответственно перемещаться по этой неизведанной территории. Это включает в себя добросовестное рассмотрение стратегий модерации и истечения срока действия данных, созданных пользователями, для предотвращения неправильного использования и чрезмерного доверия.

Кроме того, необходимо признать, что влияние технологий клонирования ИИ на личную идентичность и межличностные отношения представляет собой лишь верхушку айсберга. По мере того, как мы продолжаем идти по деликатному пути в этой растущей области, результаты нашего исследования могут служить компасом, который поможет нам расставить приоритеты этических соображений и человеческих ценностей превыше всего.

Клоны ИИ, сделанные из пользовательских данных, представляют сверхъестественные риски



Новости партнеров