«ВКонтакте» будет искать суицидальный контент при помощи нейросетей

Прочитано: 625 раз(а)


На основе анализа изображения, «обученный» метод присваивает картинкам специальный рейтинг. Об этом пишут android-robot.com.

Кроме того, нейросеть умеет анализировать текстовые надписи на изображениях. Программа распознает на картинах объекты — людей, животных, растения.

Так «умеренно опасные» изображения будут пропадать из поиска, а их приоритет в новостной ленте будет значительно занижен.

В случае, если нейросеть характеризует данные как «опасные», они направляются модераторам для проверки. Если же фото просто вызывает сомнение, оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Технология способна определять опасные и мошеннические материалы, спам и порнографию.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Также соцсеть усилиа борьбу с суицидальным контентом, при обнаружении которого сообщение и ли фото удаляются, а страницы создателей блокируются. После недавних сбоев во «Вконтакте» и в связи с большой активностью «групп смерти» и сообществ с похожей темой нейросеть выступит в роли модератора.

«ВКонтакте» создает новые сервисы для удержания пользователей



Новости партнеров