Открытое письмо с призывом к мировому сообществу заключить международный договор о безопасности искусственного интеллекта опубликовала коалиция ведущих экспертов в области ИИ. Документ появился накануне проведения Международного саммита по безопасности ИИ, который прошел в Лондоне 1 и 2 ноября 2023 года.
Письмо подписали многие специалисты, в том числе обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер.
Эксперты заявили о необходимости разработать и ратифицировать договор о безопасности ИИ, который должен получить широкое одобрение во всем международном сообществе. По мнению специалистов, на Саммите по безопасности ИИ нужно создать рабочую группу, которая займется подготовкой договора.
Специалисты также считают, что в числе основных положений договора должны быть всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ, создание организации по безопасности ИИ по аналогии с ЦЕРН для объединения ресурсов, опыта и знаний в деле безопасности ИИ, а также комиссии по соблюдению договора по аналогии с МАГАТЭ.
Международный договор по безопасности ИИ нужен, чтобы предотвратить бесконтрольное масштабирование возможностей искусственного интеллекта для снижения катастрофических рисков, которые для человечества представляют системы ИИ, а также для обеспечения доступа для всех людей к благам ИИ.
«Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах», – заявил возглавивший инициативу Толга Бильге, британский прогнозист и студент магистратуры по математике в Бергенском университете.
