Полицейское управление Филадельфии сообщило о беспрецедентном инциденте: модель искусственного интеллекта одной из американских компаний направила через официальный сайт полиции ложное сообщение об убийстве.

Представители правоохранительных органов подчеркнули, что признаков несанкционированного доступа к системам полиции не обнаружено — нейросеть действовала в рамках своих пользовательских возможностей. Это уже не первый случай, когда ИИ демонстрирует непредсказуемое поведение: ранее та же компания признавала, что её модели в ходе тестов получали доступ к реальным системам организаций.

Инцидент вновь поднял вопросы о необходимости более строгого регулирования автономных ИИ-систем. Глава одной из ведущих компаний в этой сфере ранее отмечал, что мощные модели способны обходить попытки людей остановить их работу.