Искусственный интеллект в Южной Африке сопряжен с особыми дилеммами и обычными рисками

Прочитано: 134 раз(а)


Когда люди думают об искусственном интеллекте (ИИ), у них может появиться видение будущего. Но ИИ уже здесь. По своей сути это воссоздание аспектов человеческого интеллекта в компьютеризированной форме. Подобно человеческому интеллекту, он имеет широкое применение.

Персональные помощники с голосовым управлением, такие как Siri, беспилотные автомобили, генераторы текста и изображений — все они используют ИИ. Он также курирует наши каналы в социальных сетях. Это помогает компаниям выявлять мошенничество и нанимать сотрудников . Он используется для управления домашним скотом , повышения урожайности и помощи в медицинской диагностике .

Наряду с растущей мощью и потенциалом ИИ поднимает моральные и этические вопросы . Технология уже оказалась в центре многочисленных скандалов : нарушение законов и прав, а также расовая и гендерная дискриминация. Короче говоря, это сопряжено с целым рядом этических рисков и дилемм.

Но в чем именно заключаются эти риски? И чем они отличаются в разных странах? Чтобы выяснить это, я провел тематический обзор литературы из более богатых стран, чтобы определить шесть универсальных тем этического риска высокого уровня. Затем я взял интервью у экспертов, работающих в индустрии ИИ или связанных с ней в Южной Африке, и оценил, насколько их восприятие риска ИИ отличается от этих тем или резонирует с ними.

Выводы отражают заметное сходство рисков ИИ между глобальным севером и Южной Африкой как примером страны глобального юга. Но были и важные отличия. Это отражает неравноправное общество Южной Африки и тот факт, что оно находится на периферии развития, использования и регулирования ИИ.

Другие развивающиеся страны, которые имеют схожие черты — огромный цифровой разрыв , высокий уровень неравенства и безработицы и низкое качество образования — вероятно, имеют такой же профиль риска, что и Южная Африка.

Знание того, какие этические риски могут проявляться на уровне страны, важно, поскольку оно может помочь политикам и организациям соответствующим образом скорректировать свою политику и практику управления рисками.

Универсальные темы

Шесть универсальных тем этического риска, которые я выделил из обзора литературы о глобальном севере, были следующими:

  • Ответственность : неясно, кто несет ответственность за результаты моделей и систем ИИ.
  • Предвзятость : недостатки алгоритмов, данных или и того, и другого укореняют предвзятость.
  • Прозрачность : системы ИИ работают как «черный ящик». Разработчики и конечные пользователи имеют ограниченные возможности для понимания или проверки вывода.
  • Автономия : люди теряют способность принимать собственные решения.
  • Социально-экономические риски : ИИ может привести к потере рабочих мест и усугублению неравенства.
  • Малефисенс : Может использоваться преступниками, террористами и репрессивной государственной машиной.

Затем я взял интервью у 16 ​​экспертов, работающих или связанных с индустрией искусственного интеллекта в Южной Африке. Среди них были ученые, исследователи, разработчики продуктов, связанных с ИИ, и люди, которые находились в разных категориях. По большей части шесть тем, которые я уже определил, резонировали с ними.

Проблемы Южной Африки

Но участники также определили пять этических рисков, отражающих особенности Южной Африки на уровне страны. Это были:

  • Зарубежные данные и модели : парашютные данные и модели ИИ из других источников.
  • Ограничения данных : нехватка наборов данных, которые представляют, отражают местные условия.
  • Усугубление неравенства : ИИ может усугубить и закрепить существующее социально-экономическое неравенство.
  • Неосведомленные заинтересованные стороны : большинство общественности и политиков имеют лишь приблизительное представление об ИИ.
  • Отсутствие политики и регулирования : в настоящее время в Южной Африке нет конкретных юридических требований или общей позиции правительства в отношении ИИ.

Что все это значит

Итак, что нам говорят эти находки?

Во-первых, универсальные риски в основном технические. Они связаны с особенностями ИИ и имеют технические решения. Например, предвзятость можно уменьшить за счет более точных моделей и полных наборов данных.

Большинство рисков, характерных для Южной Африки, носят более социально-технический характер и связаны с окружающей средой страны. Отсутствие политики и регулирования, например, не является неотъемлемой чертой ИИ. Это симптом того, что страна находится на периферии развития технологий и разработки соответствующей политики.

Поэтому южноафриканские организации и политики должны не только сосредоточиться на технических решениях, но и внимательно рассмотреть социально-экономические аспекты ИИ.

Во-вторых, низкий уровень осведомленности населения свидетельствует о том, что на южноафриканские организации не оказывается большого давления с целью продемонстрировать приверженность этичному ИИ. Напротив, организации на глобальном севере должны демонстрировать понимание этики ИИ, потому что их заинтересованные стороны лучше осведомлены о своих правах в отношении цифровых продуктов и услуг.

Наконец, в то время как ЕС , Великобритания и США имеют зарождающиеся правила и нормы в отношении ИИ, в Южной Африке нет регулирования и ограниченных законов , касающихся ИИ.

Правительство Южной Африки также не уделило должного внимания более широкому влиянию ИИ и этическим последствиям. Это отличается даже от других развивающихся рынков , таких как Бразилия, Египет , Индия и Маврикий , которые имеют национальную политику и стратегии, поощряющие ответственное использование ИИ.

Движение вперед

На данный момент ИИ может показаться далеким от преобладающих социально-экономических проблем Южной Африки. Но в ближайшие годы он станет повсеместным. Южноафриканские организации и политики должны активно управлять этическими рисками, связанными с ИИ.

Это начинается с признания того, что ИИ представляет угрозы, отличные от тех, что существуют на глобальном севере, и которыми необходимо управлять. Руководящие советы должны включить этику ИИ в свои программы, а политики и члены руководящих советов должны быть осведомлены об этой технологии.

Кроме того, этические риски ИИ должны быть добавлены в корпоративные и государственные стратегии управления рисками — аналогично изменению климата, которому 15 или 20 лет назад уделялось мало внимания, но теперь оно занимает видное место.

Возможно, самое главное, правительство должно опираться на недавний запуск Института искусственного интеллекта в Южной Африке и внедрить индивидуальную национальную стратегию и соответствующее регулирование для обеспечения этичного использования ИИ.

Искусственный интеллект в Южной Африке сопряжен с особыми дилеммами и обычными рисками



Новости партнеров