Программы ИИ смогут создавать поддельные видео и угрожать репутации

Прочитано: 245 раз(а)
1 Звезда2 Звезды3 Звезды4 Звезды5 Звезд (1 голосов, среднее: 5,00 из 5)
Loading ... Loading ...


«Deepfake» технология искусственного интеллекта обещает создать реалистичные видео, которые почти невозможно отличить от реальных вещей. До сих пор он в основном используется для создания измененных порнографических клипов с изображением Celebrity женские лица , но когда — то методы совершенствуются, deepfake порноместь якобы , чтобы показать людям обманывают своих партнеров не будет далеко позади.

Но глубокие подделки не только становятся неприятным инструментом для преследователей и преследователей, но и подрывают доверие к политическим институтам и обществу в целом. Белый дом недавно оправдал временное запрещение репортеру участвовать в пресс-конференциях, используя, как сообщается, ускоренную видеозапись происшествия с журналистом. Представьте себе, что вы видите ультра-реалистичные, но искусственные кадры, на которых правительственные лидеры планируют убийства, генеральные директора вступают в сговор с иностранными агентами или известный филантроп, который жестоко обращается с детьми.

Так называемые поддельные новости уже усилили скептицизм многих людей по отношению к политикам, журналистам и другим общественным деятелям. Становится настолько легко создавать полностью вымышленные сценарии, что мы больше не можем доверять видеоматериалам за чистую монету. Это угрожает нашим политическим, правовым и медийным системам, не говоря уже о наших личных отношениях. Нам нужно будет создать новые формы консенсуса, на которых будет основываться наша социальная реальность. Новые способы проверки и распределения власти — некоторые политические, некоторые технологические — могут помочь нам достичь этого.

Поддельные скандалы, поддельные политики

Глубокие подделки пугают, потому что они позволяют кооптировать чей-либо образ и ставят под сомнение нашу способность доверять тому, что мы видим. Одним из очевидных применений подделок было бы ложное вовлечение людей в скандалы. Даже если впоследствии уличающая видеозапись окажется фальшивой, ущерб репутации жертвы может быть невозможно исправить. И политики могли бы подправить старые кадры, чтобы они выглядели так, как будто они всегда поддерживали то, что недавно стало популярным, обновляя свои позиции в режиме реального времени.


Могут даже быть общественные деятели, которые являются полностью вымышленными, оригинальными, но не подлинными . Между тем, видеозапись может стать бесполезной в качестве доказательства в суде. Вещательные новости могут быть сведены к тому, чтобы люди обсуждали, являются ли клипы подлинными или нет, используя все более сложный ИИ для обнаружения глубоких подделок.

Но гонка вооружений, которая уже существует между создателями фальшивого контента и теми, кто обнаруживает или опровергает дезинформацию (например, запланированную ложную новость Facebook «комната военных действий» ), скрывает более глубокую проблему. Само существование глубоких подделок подрывает уверенность и доверие, так же как возможность того, что выборы были взломаны, ставит под сомнение достоверность результатов.

Хотя некоторые люди могут быть поглощены глубокими подделками, это не настоящая проблема. На карту поставлена ​​основная социальная структура, в которой мы все согласны с тем, что существует некая форма истины, и социальные реальности, основанные на этом доверии. Это не конец истины, а конец веры в истину — пост-трастовое общество. После массовой дезинформации даже честные общественные деятели будут легко проигнорированы или дискредитированы. Традиционные организации, которые поддерживали и обеспечивали консенсус — правительство, пресса — больше не будут соответствовать цели.

Блокчейн траст

Новые законы, регулирующие использование глубоких подделок, будут важны для людей, у которых есть разрушительные видео, сделанные из них. Но политика и право сами по себе не спасут наши системы управления. Нам нужно будет выработать новые формы консенсуса, новые способы согласования социальных ситуаций, основанные на альтернативных формах доверия.

Один из подходов заключается в децентрализации доверия, так что нам больше не нужно несколько учреждений, чтобы гарантировать, является ли информация подлинной, и вместо этого мы можем полагаться на нескольких людей или организации с хорошей репутацией. Одним из способов сделать это может быть использование блокчейна, технологии, которая поддерживает биткойны и другие криптовалюты.

Блокчейн работает, создавая открытую бухгалтерскую книгу, которая хранится на нескольких компьютерах по всему миру одновременно и защищена от несанкционированного доступа с помощью криптографии. Его алгоритмы позволяют компьютерам согласовывать достоверность любых изменений в бухгалтерской книге, что значительно затрудняет запись ложной информации. Таким образом, доверие распределяется между всеми компьютерами, которые могут тщательно проверять друг друга, повышая ответственность.

Более демократичное общество

Мы также можем обратиться к более демократичным формам правления и журналистики. Например, ликвидная демократия позволяет избирателям голосовать непосредственно по каждому вопросу или временно назначать свои голоса делегатам более гибким и подотчетным способом, чем передача полного контроля одной партии в течение многих лет. Это позволило бы общественности обращаться к экспертам для принятия за них решений, где это необходимо, но быстро выбрасывать политиков, которые игнорировали их взгляды или действовали нечестно, повышая доверие и легитимность в политической системе.

В прессе мы могли бы перейти к более совместному и демократизированному освещению новостей . Традиционные журналисты могут использовать позитивные аспекты социальных сетей для сбора информации из более разнообразных источников. Эти участники могли тогда обсудить и помочь исследовать историю, чтобы достигнуть согласия, улучшая репутацию СМИ.

Проблема с любой системой, которая опирается на репутацию ключевых людей для создания доверия, заключается в том, как предотвратить злоупотребление этой репутацией или ее мошенническое повреждение. Проверки, такие как проверка учетной записи «синих галочек» в Твиттере для общественных деятелей, могут помочь, но также необходимы более эффективные юридические и технические средства защиты: более защищенные права на неприкосновенность частной жизни, более эффективная реакция на антиобщественное поведение в Интернете и улучшенные технологии, улучшающие конфиденциальность, встроенные в дизайн.

Потенциальные последствия глубоких подделок должны действовать как призыв к действию при перестройке систем доверия, чтобы быть более открытыми, более децентрализованными и более коллективными. И сейчас самое время задуматься о другом будущем общества.

Программы ИИ смогут создавать поддельные видео и угрожать репутации

 



Новости партнеров

Загрузка...