В мире, где социальные сети влияют на мнения и формируют повествования, развитие искусственного интеллекта (ИИ) является одновременно благом и проблемой.

Новое исследование под названием «Социальные боты и распространение дезинформации в социальных сетях: проблемы искусственного интеллекта», опубликованное в Британском журнале менеджмента , углубляется в сферу социальных ботов на базе искусственного интеллекта, раскрывая их потенциал для распространения дезинформации и организациям необходимо срочно обнаружить и смягчить их вредное воздействие.

В исследовании, проводимом группой исследователей из Великобритании и Канады, используются передовые методы анализа текста и машинного обучения для анализа поведения социальных ботов в X (формально Twitter), одной из самых известных платформ социальных сетей. Анализируя набор данных из 30 000 англоязычных твитов, исследователи раскрывают сложную сеть взаимодействий между людьми и нечеловеческими субъектами, проливая свет на распространение дезинформации в цифровой сфере.

«Социальные боты — это не просто безобидные сущности; они способны влиять на общественное мнение и даже манипулировать рынками», — говорит д-р Мина Тайвиди, содиректор программы магистратуры по маркетингу; Преподаватель маркетинга в Школе бизнеса и менеджмента Лондонского университета Королевы Марии. «Наше исследование подчеркивает важность понимания их намерений и раннего обнаружения их присутствия, чтобы предотвратить распространение ложной информации».

Исследование основано на теории актерских сетей (ANT), обеспечивающей теоретическую основу для изучения динамики между людьми, ботами и цифровым ландшафтом. Интегрируя ANT с моделями глубокого обучения , исследователи раскрывают симбиотические отношения между субъектами и языком, который они используют, предлагая новое понимание распространения дезинформации.

«Наши результаты подчеркивают необходимость усовершенствованных методов обнаружения и повышения осведомленности о роли социальных ботов в формировании онлайн-дискурса», — добавляет доктор Мина Таджвиди. «Хотя наше исследование сосредоточено на X (формально Twitter), последствия распространяются на все платформы социальных сетей, где влияние ИИ становится все более распространенным».

Однако в исследовании также признаются его ограничения, в том числе отсутствие метаданных и акцент на англоязычных твитах. Исследователи подчеркивают необходимость будущих исследований по изучению дополнительных языков и способов общения, чтобы обеспечить всестороннее понимание поведения социальных ботов.

Поскольку цифровой ландшафт продолжает развиваться, исследование служит громким призывом к бдительности и активным мерам по борьбе с распространением дезинформации. Используя возможности ИИ во благо и снабжая организации инструментами для обнаружения и борьбы с вредоносными социальными ботами, мы можем проложить путь к более информированному и устойчивому обществу.