Европейский Союз хочет избежать худшего из того, что может сделать искусственный интеллект, — вспомнить жуткую технологию распознавания лиц и многие, многие эпизоды сериала Черное зеркало, — при этом все еще пытаясь повысить свой потенциал для экономики в целом.

Согласно проекту своих будущих правил, полученному Android-robot.com, Европейская комиссия полностью запретит определенные виды использования систем искусственного интеллекта «высокого риска» и ограничит доступ других в блок, если они не соответствуют его стандартам. Компании, которые не соблюдают правила, могут быть оштрафованы на сумму до 20 миллионов евро или 4% их оборота. Комиссия представит свое окончательное постановление 21 апреля.

Правила являются первыми в своем роде, регулирующими искусственный интеллект, и ЕС стремится подчеркнуть свой уникальный подход. Он не хочет оставлять мощные технологические компании наедине с собственными устройствами, как в США, и не хочет идти по пути Китая в использовании технологий для создания государства слежки. Вместо этого блок заявляет, что хочет «ориентированного на человека» подхода, который не только способствует развитию технологий, но и не дает им угрожать его строгим законам о конфиденциальности.

Это означает, что будут приветствоваться системы искусственного интеллекта, которые оптимизируют производство, моделируют изменение климата или делают энергосистему более эффективной. Но многие технологии, которые в настоящее время используются в Европе, такие как алгоритмы, используемые для сканирования резюме, оценки кредитоспособности, выдачи пособий по социальному обеспечению или заявлений о предоставлении убежища и визы или помощи судьям в принятии решений, будут отмечены как «высокорисковые» и будут подлежат дополнительной проверке.

Проверки и противовесы

Системы социальной оценки, такие как запущенные в Китае, которые отслеживают надежность людей и предприятий, классифицируются как «противоречащие ценностям Евро Союза» будут запрещены.

Предложение также хочет запретить системы искусственного интеллекта, которые причиняют вред людям, манипулируя их поведением, мнениями или решениями; использовать уязвимости людей или нацеливаться на них; и для массового наблюдения.

Но правила делают исключение, позволяющее властям использовать технологию, если они борются с серьезными преступлениями. Например, использование технологии распознавания лиц в общественных местах может быть разрешено, если ее использование ограничено по времени и географическому положению. Комиссия заявила, что это позволит в исключительных случаях, когда сотрудники правоохранительных органов могут использовать технологию распознавания лиц с камер видеонаблюдения, например, для поиска террористов.

Исключение, вероятно, сделано для того, чтобы успокоить такие страны, как Франция , которая стремится интегрировать ИИ в свой аппарат безопасности, но противостоят ястребам конфиденциальности и активистам цифровых прав, которые активно лоббировали полное запрещение таких видов использования.

«Предоставление национальным властям права решать, какие варианты использования разрешать или нет, просто воссоздает лазейки и серые зоны, которые у нас уже есть в соответствии с действующим законодательством и которые привели к широко распространенному ущербу и злоупотреблениям», — сказала Элла Якубовска из группы цифровых прав EDRi.

ЕС также стремится избегать проблем расовых и гендерных предубеждений, которые мешали развитию технологии с самого начала. Одно из требований Комиссии в проекте состоит в том, что наборы данных не должны «включать какие-либо преднамеренные или непреднамеренные предубеждения», которые могут привести к дискриминации.

В проекте также предлагается создать Европейский совет по искусственному интеллекту, в состав которого войдут по одному представителю от страны ЕС, орган ЕС по защите данных и представитель Европейской комиссии. Правление будет контролировать применение закона и делиться передовым опытом.

Трансатлантическая напряженность

Промышленность, скорее всего, не согласится со строгими правилами, которые, по их словам , сделают рынок ЕС менее привлекательным и побудят европейских новаторов начать работу в других местах.

Строгие правила также могут поставить ЕС под прицел своих союзников. США, которые гораздо больше озабочены противодействием Китаю и чьи компании, вероятно, будут подпадать под это регулирование, вероятно, предпочли бы более слабый законопроект. Когда дело доходит до трансатлантического сотрудничества с США, слежка остается одним из основных препятствий для Европы.

В мартовском интервью для Android-robot.com Эрик Шмидт, бывший глава Google и председатель Комиссии национальной безопасности США по искусственному интеллекту (NSCAI), сказал, что европейская стратегия не будет успешной, поскольку она «просто недостаточно велика», чтобы конкурировать.