Facebook заявил в среду вечером, что его системы искусственного интеллекта не смогли автоматически обнаружить видео съемки мечети Новой Зеландии.

Высокопоставленный представитель гиганта социальных сетей ответил в своем блоге на критику, что он не действовал достаточно быстро, чтобы снять видео боевика в прямом эфире о его нападении в Крайстчерче, в результате которого погибли 50 человек, что позволило быстро распространяться в Интернете.

Вице-президент Facebook по честности, Гай Розен, сказал, что «это конкретное видео не активировало наши системы автоматического обнаружения».

«За последние годы ИИ добился огромного прогресса и во многих областях, что позволило нам активно обнаруживать подавляющее большинство удаляемого нами контента», — сказал Розен. «Но это не идеально».

Одна из причин заключается в том, что системы искусственного интеллекта обучаются с большими объемами аналогичного контента, но в этом случае их было недостаточно, потому что такие атаки редки.

Розен сказал, что еще одна проблема заключается в том, чтобы заставить искусственный интеллект определить разницу между этим и «визуально похожим, безобидным контентом», таким как видеоигры в прямом эфире.