ИИ и дипфейки представляют новые риски для интернет-отношений

Прочитано: 199 раз(а)


Людям, ищущим настоящие отношения через Интернет, нужно будет лучше разбираться в новых технологиях, которые подвергают их романтическому мошенничеству с «совершенно новым уровнем риска», предупреждает доцент Кассандра Кросс, исследователь интернет-мошенничества QUT.

Романтические аферы, которые только в 2020 году принесли преступникам 131 миллион долларов от австралийцев, вероятно, станут труднее обнаруживать, поскольку преступники переходят к использованию ИИ ( искусственного интеллекта ) и технологии дипфейков для обмана своих жертв.

С помощью технологии дипфейк преступники могут не только использовать легкодоступные изображения другого человека и создать фальшивое изображение профиля, но они также могут создать полностью синтетическое изображение и соответствующий профиль, не извлекая их из социальных сетей или Интернета другого человека.

Профессор Кросс из Школы юстиции QUT сказал, что общественность узнала о мошенничестве с романтическими отношениями , и ей посоветовали использовать такие методы обнаружения, как обратный поиск по изображениям, отправленным им, чтобы определить, был ли отправитель тем, за кого они себя выдавали.

«Это означает, что кампании по предотвращению мошенничества необходимо будет пересмотреть, чтобы люди знали об этом сложном и нелегко обнаруживаемом методе обмана», — сказал профессор Кросс.

«ИИ и дипфейки делают обратный поиск изображений практически устаревшим. Крайне необходимо улучшить технологический ответ на ИИ и потенциал мошенничества с дипфейками, поскольку доступные средства обнаружения ограничены».

Профессор Кросс сказал, что во многих сообщениях СМИ уже задокументировано использование искусственного интеллекта и дипфейков для обмана жертв романтического мошенничества.

«Например, женщина из США отправила несколько сумм денег мужчине, которое, по ее мнению, было чиновником ВМС США. В этом случае преступник манипулировал общедоступными изображениями и записями офицера ВМС США, чтобы создать дипфейковые видео реального человека под другое лицо», — сказала она.

«Помимо того, что преступники могут снимать изображения живых людей и создавать реалистичные профили, программное обеспечение для дипфейков может создавать полностью правдоподобные, но вымышленные изображения и профили.

«Способность технологии генерировать уникальные изображения для использования в профилях социальных сетей может изменить то, как совершаются романтические мошенничества и другие обманные онлайн-практики (такие как ловля кошек)».

Профессор Кросс сказал, что дипфейки эволюционировали, чтобы охватить голосовые записи и стали мощным инструментом при использовании с другими мошенническими действиями.

«Например, при мошенничестве с компрометацией деловой электронной почты (BEC) преступники могут использовать фальшивые аудиозаписи, чтобы выдавать себя за руководителей и других авторитетных лиц, и атаковать сотрудников более низкого уровня с срочными запросами на перевод средств от их имени.

«Очевидно, что профилактические сообщения должны быть нацелены на людей, которые используют платформы знакомств и платформы социальных сетей для установления отношений, и, по крайней мере, предупреждать общественность о рисках, которые ИИ и дипфейки представляют в этих сферах их жизни».

Статья была опубликована в журнале Crime Prevention and Community Safety.

ИИ и дипфейки представляют новые риски для интернет-отношений



Новости партнеров