Гонка вооружений с использованием ИИ подчеркивает острую необходимость в ответственных инновациях

Прочитано: 61 раз(а)


Недавнее безумие вокруг инструментов обработки языка, таких как ChatGPT, заставило организации изо всех сил пытаться предоставить рекомендации по ответственному использованию. Платформа онлайн-публикаций Medium, например, опубликовала заявление о написании с помощью ИИ , которое способствует «прозрачности» и «раскрытию».

Эти этические меры кажутся странными, учитывая выпуск на этой неделе более мощного GPT-4, который рискует превратиться в машину дезинформации и пропаганды . OpenAI утверждает, что GPT-4 смог пройти смоделированный экзамен на адвоката в лучших 10 процентах, по сравнению с GPT-3.5, который набрал только нижние 10 процентов.

Непроверенные инновации

ChatGPT работает на базе суперкомпьютера и мощной платформы облачных вычислений , которые были созданы и профинансированы Microsoft. Это партнерство с Microsoft OpenAI ускорит глобальное распространение продуктов генеративного ИИ через платформу Microsoft Azure .

Возможно, по совпадению, GPT-4 был выпущен менее чем через два месяца после того, как Microsoft уволила команду по этике и обществу . Разочарованные члены команды заявили, что это решение было основано на давлении со стороны высшего руководства Microsoft , которое подчеркивало необходимость передачи продуктов ИИ «в руки клиентов с очень высокой скоростью».

Некогда ругаемый девиз Кремниевой долины «Двигайся быстро и ломай вещи» может вернуться в моду.

На данный момент у Microsoft все еще есть свой Office of Responsible AI . Но кажется уместным спросить, что означает ответственная инновация , поскольку эта высокоскоростная, высокодоходная игра неконтролируемых инноваций продолжается.

Ответственные инновации

Когда я спросил ChatGPT, что такое ответственные инновации, он написал: «Процесс разработки и внедрения новых технологий, процессов или продуктов таким образом, чтобы решать этические, социальные и экологические проблемы. Он включает в себя учет потенциальных последствий и рисков инноваций. на различные заинтересованные стороны, включая клиентов, сотрудников, сообщества и окружающую среду».

Определение ChatGPT точное, но лишенное контекста. Чьи это идеи и как они реализуются? Иными словами, кто несет ответственность за ответственные инновации?

За последнее десятилетие ряд компаний, аналитических центров и учреждений разработали ответственные инновационные инициативы для прогнозирования и смягчения негативных последствий развития технологий.

В 2018 году Google создал ответственную команду инноваций , чтобы привлечь «экспертов в области этики, прав человека, исследований пользователей и расовой справедливости». Наиболее заметным результатом работы этой команды стали ответственные принципы искусственного интеллекта Google . Но этический профиль компании за пределами этого вызывает сомнения.

Работа Google с вооруженными силами США и плохое обращение с двумя бывшими сотрудниками, настроенными на этику, вызывают опасения по поводу способности Google к самоконтролю.

Эти затянувшиеся проблемы, наряду с недавним антимонопольным обвинением материнской компании Google , демонстрируют, что сосредоточения внимания на ответственном ИИ недостаточно, чтобы удержать крупные технологические компании от « зла ».

На самом деле, самый большой вклад Google в ответственные инновации был сделан усилиями ее собственных сотрудников. Это говорит о том, что ответственные инновации, возможно, должны расти снизу вверх. Но это трудная задача в эпоху массовых увольнений в технологической отрасли .

В Кодексе этики и профессионального поведения Ассоциации вычислительной техники говорится , что технические специалисты несут ответственность за поддержание общественного блага в процессе внедрения инноваций. Но что мотивирует технических специалистов быть «хорошими» без поддержки начальства, рекомендаций экспертов по этике и правил со стороны государственных органов? Можно ли доверять самоаудит технологическим компаниям?

Еще одна проблема, связанная с самопроверкой, — это отмывание этики , когда компании лишь на словах признают этику. Ответственные инновационные усилия Meta являются хорошим примером этого.

В июне 2021 года топ-менеджер одной из соцсетей (запрещенная в РФ) по дизайну продуктов похвалила ответственную команду инноваций, которую она помогла создать в 2018 году, отметив «стремление каждый день принимать максимально этически ответственные решения». К сентябрю 2022 года ее команда была расформирована.

Этот переход от ответственных инноваций к социальным инновациям является тактикой промывания этики, которая скрывает неэтичное поведение, меняя тему на филантропию. По этой причине важно отличать «технологии во благо» как ответственное проектирование технологии от распространенной в настоящее время филантропической PR-фразы « технологии во благо».

Ответственные инновации против прибыли

Неудивительно, что самые изощренные призывы к ответственным инновациям исходили извне корпоративной культуры.

Принципы, изложенные в официальном документе Совета по информационным и коммуникационным технологиям (ICTC), канадской некоммерческой организации, говорят о таких ценностях, как самосознание, честность и справедливость — концепциях, более знакомых философам и специалистам по этике, чем генеральным директорам и основателям.

Принципы ICTC призывают разработчиков технологий не ограничиваться смягчением негативных последствий и работать над устранением дисбаланса социальной власти.

Можно спросить, как эти принципы применимы к последним разработкам в области генеративного ИИ. Когда OpenAI утверждает, что «разрабатывает технологии, которые расширяют возможности каждого», кто включается в термин «все?» И в каком контексте будет применяться эта «власть»?

Эти вопросы отражают работы таких философов, как Руха Бенджамин и Армонд Таунс , которые с подозрением относятся к термину «все» в этих контекстах и ​​ставят под сомнение саму идентичность «человека» в человекоцентричных технологиях.

Такие соображения замедлит гонку ИИ, но это может быть не такой ужасный исход.

Ценностные противоречия

В технологической отрасли существует постоянное противоречие между финансовой оценкой и моральными ценностями. Для смягчения этой напряженности были созданы ответственные инновационные инициативы, но в последнее время такие усилия отметаются.

Напряжение ощутимо в реакции консервативных американских экспертов на недавний крах банка Силиконовой долины. Несколько стойких сторонников республиканцев, в том числе Дональд Трамп, ошибочно возложили ответственность за беспорядки на «перспективы пробуждения» банка и его приверженность ответственным инвестициям и инициативам в области акционерного капитала .

По словам соучредителя Home Depot Берни Маркуса , «эти банки плохо управляются, потому что все сосредоточены на разнообразии и всех проблемах», а не на том, что Трамп называет « практикой ведения бизнеса, основанной на здравом смысле».

Будущее ответственных инноваций может зависеть от того, как на так называемую «деловую практику здравого смысла» могут влиять так называемые «пробуждающие» вопросы, такие как этические, социальные и экологические проблемы. Если этику можно смыть, отмахнувшись от нее как от «пробудившейся», то будущее ответственных инноваций столь же многообещающе, как и будущее компакт-дисков.

Гонка вооружений с использованием ИИ подчеркивает острую необходимость в ответственных инновациях



Новости партнеров