Нам говорят, что искусственный интеллект и автоматизированные решения, которые он позволяет, позволят нам улучшить государственное управление. Искусственный интеллект позволит гибко обеспечивать последовательные и быстрые решения, а за счет автоматизации можно добиться значительной экономии.

Согласно национальной стратегии Финляндии в области искусственного интеллекта, государственный сектор должен быть модернизирован, чтобы справиться с давлением, вызванным старением демографии. Автоматизированное принятие решений уже используется такими организациями, как Налоговая администрация и Kela, Управление социального страхования Финляндии.

Однако усилия по цифровизации государственного управления, похоже, упускают из виду точку зрения простых граждан. В своем исследовании , опубликованном в журнале Big Data & Society , доцент кафедры права Рийкка Коулу и научный сотрудник Терхи Эско с ее опытом работы в области социологии прочесали все заявления, представленные во время разработки общего административного законодательства, касающегося автоматизированного принятия решений. У них осталось впечатление законодательной инициативы, осуществленной на условиях администрации.

«Мы просто хотели посмотреть, присутствует ли точка зрения граждан и как они обсуждаются в качестве целей автоматизированного принятия решений. Мы пришли к выводу, что мнения граждан явно отсутствовали», — говорит Эско, подводя итоги.

Законодательная инициатива была основана на Общем регламенте ЕС по защите данных, а также на заявлениях парламентского комитета по конституционному праву и мнениях высших контролеров законности, согласно которым автоматизированные процедуры, которые различные органы власти использовали в течение нескольких лет, не имели юридической силы. основе. Исследователи увидели процесс, который фактически направлен на обеспечение дальнейшего использования ранее принятых автоматизированных процедур принятия решений. Критической дискуссии по поводу законодательной инициативы практически не было услышано.

В ходе своего исследования ученые изучили виды мнений и будущих представлений об автоматизированном принятии решений, которые выражались в этих заявлениях. К вопросам в основном подходили с точки зрения властей, уделяя особое внимание природе надлежащего управления и выгодам, получаемым от цифрового администрирования и автоматизации. Ответы отражали мнение о том, что от граждан на самом деле не ожидают понимания сложной технологии, используемой при принятии решений. Их роль в первую очередь сводится к тому, чтобы быть объектом принятия решений.

Забытый, но проверенный гражданин

Гражданину, которого игнорируют на этапе законотворчества, придается большое значение как контролеру качества информационных систем. Цифровизация несет в себе риск того, что граждане станут более ответственными не только за защиту своих прав, но и за обеспечение функционирования системы в целом.

Например, пользователей все чаще просят оставить отзыв о различных системах и связанных с ними проблемах. Многие веб-сайты теперь предлагают форму жалобы для сообщения о недостатках доступности сайта. Простой способ подачи жалобы сам по себе является положительным явлением, но он также может привести к тому, что недостатки не будут обнаружены, если граждане не будут активно сообщать о них.

Ответственность за подачу жалоб на автоматическое принятие решений обычно ложится на лиц, которых решения лично затрагивают. Однако, если вы не понимаете, как было принято решение, касающееся вас, как вы можете узнать, когда жаловаться на решение?

«Это поднимает вопрос о навыках и знаниях, которыми предположительно обладают люди», — говорит Эско.

Если наша правовая система работает так, как должна, люди жалуются на неправильные решения. Это гарантирует выявление материализовавшихся рисков цифровизации и решение проблем. Однако по мере того, как информационные системы становятся все более сложными, существует риск того, что все меньше и меньше граждан будут жаловаться на системы и решения, которые они принимают. Это сделает нашу правовую систему беззубой.

Исследования показывают, что мы склонны доверять компьютерам — мы предполагаем, что они принимают правильные и объективные решения. Возникает вопрос, станет ли порог подачи жалобы, скажем, на налоговое решение выше, если решение будет приниматься алгоритмом.

Осмелитесь подвергнуть сомнению веру в цифровизацию

Финны уже давно убеждены, что мы должны добиваться конкурентного преимущества, проявляя инновации. Мало кто осмелился бросить вызов этому повествованию или нашей технологической политике.

«Что, если бы мы не оцифровали все? Это вопрос, которому нигде не уделяется особого внимания. В Финляндии не ведется дискуссия по вопросам правовой политики относительно пределов цифровизации», — говорит Коулу.

По статистике ЕС, наше общество занимает первое место в Европе по цифровизации государственного управления. Это, конечно, хорошее достижение, но, с другой стороны, тот, кто находится в начале колоды, также первым сталкивается с любыми рисками и проблемами.

«Это означает, что мы не можем копировать лучшие практики других стран. Другими словами, другие страны еще не столкнулись с проблемами, с которыми мы сталкиваемся. Мы практически слепы к этим рискам».

Дискуссии о проблемах, связанных с доступностью систем цифрового администрирования, легко создают впечатление, что системы создают проблемы в основном для пожилых людей, а не для молодых людей, которые выросли с технологиями. Подразумевается, что проблемы будут решаться автоматически, поскольку люди, использующие цифровые устройства с детства, станут составлять большую долю населения.

Однако исследователи предостерегают от того, чтобы рассчитывать на то, что молодые люди станут «цифровыми аборигенами». Одна только техническая ловкость не поможет, если молодой пользователь не понимает лежащую в основе социальную систему и не знает, как обращаться с властями.

«Цифровые навыки по-прежнему рассматриваются как нечто отличное от гражданских навыков. Если вы взаимодействуете с цифровым администрированием, недостаточно знать, как пользоваться компьютером; вы также должны понимать, как действуют власти», — говорит Коулу.

Жесткое законодательство может быть сильной стороной

В дискуссиях об инновационной и технологической политике финское законодательство часто называют устаревшим препятствием, создающим ненужные препятствия на пути развития. В этих дискуссиях уполномочивающее законодательство Эстонии часто приводится в качестве примера, к которому следует стремиться и Финляндии.

Высоко оцененная гибкость Эстонии во многом основана на том, что страна реформировала свое законодательство, когда стала независимой, и избавилась от законов советского периода.

«У нас есть конституционная традиция, которой сотни лет, и она восходит к временам шведского правления. Финская традиция также может быть защитным фактором, и я надеюсь, что она поможет бросить вызов идее о том, что все должно быть оцифровано», — говорит Коулу. .

Общая история Финляндии и Швеции и схожие административные структуры закладывают основу для совместного финско-шведского проекта, посвященного автоматизированному принятию решений в государственном управлении.

Проект ADM-Gov (Автоматизированное администрирование: управление ADM в государственном секторе) направлен на то, чтобы определить, как автоматизированное принятие государственных решений может быть реализовано без ущерба для надлежащего государственного управления или основных прав граждан и доверия к государственным институтам. Проект также включает в себя сравнение между Финляндией и Швецией, например, по поводу напряженности, вызванной будущим регулированием ЕС в области искусственного интеллекта в обеих странах. Соседние страны прекрасно поддаются сравнениям: многие вещи они решили одинаково, но у них есть и различия.

В Швеции автоматизированное принятие решений в сфере государственного управления стало возможным благодаря простому добавлению в Закон об административных процедурах положения, гласящего, что решения могут приниматься автоматически. Параллельная реформа, произошедшая в Финляндии, была гораздо более обширной и включала в себя несколько новых разделов законов. Шведский подход был быстро признан слишком упрощенным и нуждающимся в корректировке. В рамках проекта исследователи надеются найти прямые ответы на вопрос, насколько хорошо власти на практике приняли новое законодательство Финляндии.

Новое направление исследований: исследование правового пользовательского интерфейса.

Когда студентам нужна помощь в подаче заявления на получение финансовой помощи студентам, они больше не обращаются в ближайший офис Kela, а заходят на веб-сайт Kela. Наше государственное управление стало цифровым, а это означает, что люди больше не взаимодействуют с государственным должностным лицом, а используют технический пользовательский интерфейс.

Пользовательские интерфейсы стали ключевым элементом нашей повседневной жизни и практически необходимостью. Пользовательский интерфейс — это часть информационной системы, видимая пользователю. Это может быть чат-бот, онлайн-портал или любое ИТ-решение, которое граждане используют для решения вопросов государственного управления .

Поскольку пользовательские интерфейсы разрабатываются людьми, они не могут быть нейтральными. Успешные дизайнерские решения предлагают пользователям информацию об их правах и обязанностях и обеспечивают хорошо функционирующий канал, который граждане могут использовать для передачи своих дел на рассмотрение органов власти. Более слабые технические решения могут нарушать закон и надлежащее управление.

«Мы считаем, что пользовательские интерфейсы и их дизайн также следует обсуждать как юридические явления, поскольку они оказывают прямое влияние на то, как люди реализуют свои права. Нам интересно узнать, какие предположения о пользователях, как гражданах, так и органах власти, делаются в интерфейсы и какие действия они требуют от людей, чтобы связаться с властями», — говорит Коулу, описывая основы своего исследования.

Коулу возглавляет исследовательский проект DARE (Цифровое администрирование, новое для всех), который исследует взаимодействие между технологическим дизайном и законом. В проекте применяются методы из различных областей: юридических наук, социальных наук и информатики.

Помимо прочего, исследовательский проект направлен на то, чтобы определить, насколько технические пользовательские интерфейсы, используемые властями, действительно соответствуют закону. Проект также стремится создать основу для новой отрасли исследований: юридических исследований пользовательского интерфейса.