Все, что Facebook говорит, это дать миру шанс.
Ребята из огромного издателя социальных сетей хотят более доброжелательного, дружелюбного и безопасного цифрового соседства для своих жителей. И с 2,5 миллиардами пользователей достижение этой цели — задача не из легких.
С этой целью Facebook создал своего рода параллельную вселенную, которая будет имитировать действия и поведение своих пользователей, чтобы определить, как лучше всего создать более гармоничное сообщество.
В исследовательской работе под названием «WES: агентское моделирование взаимодействия пользователя с реальной инфраструктурой» новый район описывается как заполненный тысячами ботов, которые намереваются взаимодействовать друг с другом. Они будут «любить», «дружить» и делиться, как это делают реальные пользователи, но они также будут запрограммированы на плохое поведение . Это означает, что боты будут учиться проводить мошеннические и фишинговые экспедиции и даже публиковать «ошибочные» утверждения, основанные на пропаганде, откровенной лжи или политически некорректных представлениях. Цель — узнать, как лучше всего бороться с антиобщественной активностью на платформе .
Искусственный мир, получивший название WW, для Web Enabled Simulation будет опираться на жестко запрограммированные действия, а также на усвоенное поведение посредством обучения с подкреплением. Боты будут участвовать в ряде сценариев, таких как попытка использования уязвимостей пользователей или взлом личной информации, например, фотографий или других личных данных. Целевые боты будут запрограммированы на то, чтобы вести себя так, как это делают участники, подчиняясь злоумышленникам или отбиваясь от них.
По мере того, как исследователи Facebook узнают больше о динамике плохого поведения — домогательствах, злоупотреблениях, мошенничестве — они могут принять меры по их снижению.
Все эти операции будут выполняться в фоновом режиме. Они не будут мешать реальным пользователям.
«Боты должны быть надлежащим образом изолированы от реальных пользователей, чтобы гарантировать, что моделирование , хотя и выполняется на реальном коде платформы, не приведет к неожиданным взаимодействиям между ботами и реальными пользователями», — говорится в отчете WES.
Интеллект за WW опирается на многочисленные области исследований: разработка программного обеспечения на основе поиска , машинное обучение, языки программирования , многоагентные системы, теория графов и искусственный интеллект игр .
По мере того, как проект приближается к более идеальной системе социальных сетей, исследователи Facebook говорят, что они ожидают, что их результаты будут использованы и на самом деле.
«Поведение сообщества становится все более распространенным в программных приложениях, например, для путешествий, проживания, развлечений и покупок», — говорится в отчете. «Эти системы используют социальные взаимодействия, так что каждый пользователь может извлечь выгоду из коллективного опыта других пользователей. Хотя этот документ посвящен системе WW в Facebook, концепции и подход также могут найти применение на платформах, используемых другими организациями».
WW следует более ранней симуляции Facebook под названием Sapienz, которая изучала поведенческие тенденции. Но старая программа работала на изолированной платформе Facebook. WW будет работать незаметно в реальном времени на реальной платформе Facebook.
«В отличие от традиционного моделирования, в котором создается модель реальности, — говорится в отчете, — система WES построена на реальной программной платформе».
