Профессор Университета Центральной Флориды и 26 других исследователей опубликовали исследование, в котором определяются проблемы, которые люди должны преодолеть, чтобы искусственный интеллект был надежным, безопасным, заслуживающим доверия и совместимым с человеческими ценностями.
Исследование «Шесть основных задач искусственного интеллекта, ориентированных на человека» было опубликовано в Международном журнале взаимодействия человека и компьютера .
Озлем Гарибай ’01MS ’08PhD, доцент кафедры промышленной инженерии и систем управления UCF, был ведущим исследователем в этом исследовании. Она говорит, что технологии стали более заметными во многих аспектах нашей жизни, но они также породили множество проблем, которые необходимо изучить.
Например, грядущая повсеместная интеграция искусственного интеллекта может значительно повлиять на человеческую жизнь способами, которые еще не до конца изучены, говорит Гарибей, который работает над приложениями ИИ для разработки и открытия материалов и лекарств, а также над тем, как ИИ влияет на социальные системы .
Шесть проблем, которые определили ученые:
- Задача 1, благополучие человека: ИИ должен уметь обнаруживать возможности его реализации для улучшения благосостояния людей. Также следует заботиться о благополучии пользователя при взаимодействии с ИИ.
- Задача 2, Ответственный. Ответственный ИИ относится к концепции уделения приоритетного внимания благополучию человека и общества на протяжении всего жизненного цикла ИИ. Это гарантирует, что потенциальные преимущества ИИ используются таким образом, который соответствует человеческим ценностям и приоритетам, а также снижает риск непредвиденных последствий или этических нарушений.
- Задача 3. Конфиденциальность. Сбор, использование и распространение данных в системах ИИ следует тщательно продумать, чтобы обеспечить защиту конфиденциальности отдельных лиц и предотвратить их вредоносное использование против отдельных лиц или групп.
- Задача 4, дизайн: принципы проектирования систем ИИ, ориентированные на человека, должны использовать структуру, которая может информировать практиков. Эта структура будет различать ИИ с чрезвычайно низким риском, ИИ, не требующий специальных мер, ИИ с чрезвычайно высоким риском и ИИ, который нельзя допускать.
- Задача 5, управление и надзор. Необходима структура управления, учитывающая весь жизненный цикл ИИ от концепции до разработки и развертывания.
- Задача 6. Взаимодействие человека и ИИ. Для развития этических и равноправных отношений между людьми и системами ИИ крайне важно, чтобы взаимодействие основывалось на фундаментальном принципе уважения когнитивных способностей человека. В частности, люди должны сохранять полный контроль и ответственность за поведение и результаты систем ИИ.
Исследование, которое проводилось в течение 20 месяцев, включает мнения 26 международных экспертов, имеющих различный опыт в области технологий искусственного интеллекта.
«Эти вызовы требуют создания технологий искусственного интеллекта, ориентированных на человека, которые отдают приоритет этике, справедливости и повышению благосостояния людей», — говорит Гарибей. «Проблемы требуют принятия ориентированного на человека подхода, который включает в себя ответственный дизайн, защиту конфиденциальности, соблюдение принципов проектирования, ориентированных на человека, надлежащее управление и надзор, а также уважительное взаимодействие с когнитивными способностями человека».
В целом эти проблемы являются призывом к действию для научного сообщества по разработке и внедрению технологий искусственного интеллекта, которые отдают приоритет человечеству и приносят ему пользу, говорит она.
В группу из 26 экспертов входят члены Национальной инженерной академии и исследователи из Северной Америки, Европы и Азии, которые имеют большой опыт работы в научных кругах, промышленности и правительстве. Группа также имеет различный образовательный опыт в различных областях, от информатики и инженерии до психологии и медицины.
Их работа также будет представлена в главе книги «Взаимодействие человека с компьютером: основы, методы, технологии и приложения».
