Когда люди думают об искусственном интеллекте (ИИ), у них может появиться видение будущего. Но ИИ уже здесь. По своей сути это воссоздание аспектов человеческого интеллекта в компьютеризированной форме. Подобно человеческому интеллекту, он имеет широкое применение.
Персональные помощники с голосовым управлением, такие как Siri, беспилотные автомобили, генераторы текста и изображений — все они используют ИИ. Он также курирует наши каналы в социальных сетях. Это помогает компаниям выявлять мошенничество и нанимать сотрудников . Он используется для управления домашним скотом , повышения урожайности и помощи в медицинской диагностике .
Наряду с растущей мощью и потенциалом ИИ поднимает моральные и этические вопросы . Технология уже оказалась в центре многочисленных скандалов : нарушение законов и прав, а также расовая и гендерная дискриминация. Короче говоря, это сопряжено с целым рядом этических рисков и дилемм.
Но в чем именно заключаются эти риски? И чем они отличаются в разных странах? Чтобы выяснить это, я провел тематический обзор литературы из более богатых стран, чтобы определить шесть универсальных тем этического риска высокого уровня. Затем я взял интервью у экспертов, работающих в индустрии ИИ или связанных с ней в Южной Африке, и оценил, насколько их восприятие риска ИИ отличается от этих тем или резонирует с ними.
Выводы отражают заметное сходство рисков ИИ между глобальным севером и Южной Африкой как примером страны глобального юга. Но были и важные отличия. Это отражает неравноправное общество Южной Африки и тот факт, что оно находится на периферии развития, использования и регулирования ИИ.
Другие развивающиеся страны, которые имеют схожие черты — огромный цифровой разрыв , высокий уровень неравенства и безработицы и низкое качество образования — вероятно, имеют такой же профиль риска, что и Южная Африка.
Знание того, какие этические риски могут проявляться на уровне страны, важно, поскольку оно может помочь политикам и организациям соответствующим образом скорректировать свою политику и практику управления рисками.
Универсальные темы
Шесть универсальных тем этического риска, которые я выделил из обзора литературы о глобальном севере, были следующими:
- Ответственность : неясно, кто несет ответственность за результаты моделей и систем ИИ.
- Предвзятость : недостатки алгоритмов, данных или и того, и другого укореняют предвзятость.
- Прозрачность : системы ИИ работают как «черный ящик». Разработчики и конечные пользователи имеют ограниченные возможности для понимания или проверки вывода.
- Автономия : люди теряют способность принимать собственные решения.
- Социально-экономические риски : ИИ может привести к потере рабочих мест и усугублению неравенства.
- Малефисенс : Может использоваться преступниками, террористами и репрессивной государственной машиной.
Затем я взял интервью у 16 экспертов, работающих или связанных с индустрией искусственного интеллекта в Южной Африке. Среди них были ученые, исследователи, разработчики продуктов, связанных с ИИ, и люди, которые находились в разных категориях. По большей части шесть тем, которые я уже определил, резонировали с ними.
Проблемы Южной Африки
Но участники также определили пять этических рисков, отражающих особенности Южной Африки на уровне страны. Это были:
- Зарубежные данные и модели : парашютные данные и модели ИИ из других источников.
- Ограничения данных : нехватка наборов данных, которые представляют, отражают местные условия.
- Усугубление неравенства : ИИ может усугубить и закрепить существующее социально-экономическое неравенство.
- Неосведомленные заинтересованные стороны : большинство общественности и политиков имеют лишь приблизительное представление об ИИ.
- Отсутствие политики и регулирования : в настоящее время в Южной Африке нет конкретных юридических требований или общей позиции правительства в отношении ИИ.
Что все это значит
Итак, что нам говорят эти находки?
Во-первых, универсальные риски в основном технические. Они связаны с особенностями ИИ и имеют технические решения. Например, предвзятость можно уменьшить за счет более точных моделей и полных наборов данных.
Большинство рисков, характерных для Южной Африки, носят более социально-технический характер и связаны с окружающей средой страны. Отсутствие политики и регулирования, например, не является неотъемлемой чертой ИИ. Это симптом того, что страна находится на периферии развития технологий и разработки соответствующей политики.
Поэтому южноафриканские организации и политики должны не только сосредоточиться на технических решениях, но и внимательно рассмотреть социально-экономические аспекты ИИ.
Во-вторых, низкий уровень осведомленности населения свидетельствует о том, что на южноафриканские организации не оказывается большого давления с целью продемонстрировать приверженность этичному ИИ. Напротив, организации на глобальном севере должны демонстрировать понимание этики ИИ, потому что их заинтересованные стороны лучше осведомлены о своих правах в отношении цифровых продуктов и услуг.
Наконец, в то время как ЕС , Великобритания и США имеют зарождающиеся правила и нормы в отношении ИИ, в Южной Африке нет регулирования и ограниченных законов , касающихся ИИ.
Правительство Южной Африки также не уделило должного внимания более широкому влиянию ИИ и этическим последствиям. Это отличается даже от других развивающихся рынков , таких как Бразилия, Египет , Индия и Маврикий , которые имеют национальную политику и стратегии, поощряющие ответственное использование ИИ.
Движение вперед
На данный момент ИИ может показаться далеким от преобладающих социально-экономических проблем Южной Африки. Но в ближайшие годы он станет повсеместным. Южноафриканские организации и политики должны активно управлять этическими рисками, связанными с ИИ.
Это начинается с признания того, что ИИ представляет угрозы, отличные от тех, что существуют на глобальном севере, и которыми необходимо управлять. Руководящие советы должны включить этику ИИ в свои программы, а политики и члены руководящих советов должны быть осведомлены об этой технологии.
Кроме того, этические риски ИИ должны быть добавлены в корпоративные и государственные стратегии управления рисками — аналогично изменению климата, которому 15 или 20 лет назад уделялось мало внимания, но теперь оно занимает видное место.
Возможно, самое главное, правительство должно опираться на недавний запуск Института искусственного интеллекта в Южной Африке и внедрить индивидуальную национальную стратегию и соответствующее регулирование для обеспечения этичного использования ИИ.