Новая структура для разработки объяснимого ИИ для приложений дополненной реальности.
Хотя инструменты искусственного интеллекта (ИИ) и машинного обучения в настоящее время широко используются для улучшения технологических приложений, основы многих из этих инструментов трудно расшифровать. Это связано с тем, что большинство из них основаны на моделях «черного ящика», моделях, которые анализируют данные и учатся делать прогнозы по ним, но не разделяют процессы, лежащие в основе этих прогнозов, с пользователями-людьми.
Исследователи из Meta Reality Labs недавно создали XAIR, платформу, которая может помочь разработчикам упростить понимание процессов, лежащих в основе прогнозов ИИ. Эта структура, представленная в документе, представленном и опубликованном в рамках конференции CHI 2023 года по человеческому фактору в вычислительных системах , специально разработана для создания объяснимых систем искусственного интеллекта (XAI), которые можно применять в различных условиях дополненной реальности (AR). .
«Поскольку модели черного ящика все чаще используются в повседневной жизни, у нас все больше и больше опасений по поводу того, что люди злоупотребляют искусственным интеллектом и теряют контроль», — рассказали Tech Xplore двое исследователей, проводивших исследование, Сюхай Сюй и Анна Ю. «Это привело к необходимости сделать алгоритмы более понятными, что привело к всплеску XAI. Существующие исследования показали, что XAI может помочь конечным пользователям устранить путаницу и укрепить доверие. опыты».
Технология дополненной реальности позволяет пользователям просматривать модифицированную версию окружающей их среды, в которую интегрированы цифровые элементы, звуки и/или визуальные улучшения. Эти «цифровые» версии реальности можно просматривать с помощью головных дисплеев, очков, других носимых устройств и даже просто через экран смартфона.
В последнее время некоторые исследователи изучают использование ИИ для улучшения приложений AR, например, делая их более чувствительными к изменениям в среде пользователя или позволяя им анализировать и делать прогнозы относительно конкретных объектов. Сюй, Ю и их коллеги решили создать структуру, которая могла бы облегчить понимание результатов этих инструментов ИИ для приложений дополненной реальности, тем самым повысив доверие пользователей к ним.
«Поскольку модели ИИ будут необходимы для контекстно-зависимой повседневной дополненной реальности, XAI также будет иметь важное значение, поскольку конечные пользователи будут взаимодействовать со всеми видами результатов ИИ», — сказали Сюй и Ю. «XAI может быть полезен во многих отношениях, например, для того, чтобы сделать интеллектуальное поведение AR интерпретируемым, устранить путаницу или неожиданность для неожиданных результатов ИИ, повысить осведомленность о конфиденциальности и укрепить доверие. Учитывая важность XAI для AR, мы стремимся ответить на вопрос исследования о правильный способ создать эффективный опыт XAI для AR в повседневных сценариях».
Команда Meta создала платформу XAIR, надеясь, что она облегчит разработку приложений XAI для дополненной реальности. Их структура по существу отвечает на три открытых вопроса: когда, что и как? Ответы на эти вопросы можно использовать для более эффективного объяснения прогнозов ИИ в сценариях дополненной реальности. Помимо помощи разработчикам в создании ИИ, который может ответить на эти три вопроса, XAIR излагает ряд ключевых рекомендаций для исследователей и разработчиков, работающих над приложениями XAI для дополненной реальности.
«Мы определили пять ключевых факторов на основе крупномасштабного обзора литературы», — объяснили Сюй и Юй. «Эти факторы определяют дизайн аспектов «когда, что, как», включая два фактора, специфичных для AR — состояние пользователя и контекстную информацию, и три фактора, не специфичных для AR — цель системы, цель пользователя и профиль пользователя».
По сути, чтобы использовать структуру команды, разработчикам сначала необходимо учесть эти пять факторов, точно указав контекстную информацию о своих пользователях, их состоянии пользователей, цели их системы в целом, а также цель и профиль потенциальных пользователей. Сделав это, они могут просто обратиться к платформе XAIR, чтобы адаптировать и доработать свои системы XAI для приложений AR.
«Поскольку ИИ становится все более и более мощным, в обозримом будущем мы можем ожидать, что ИИ поможет автоматически идентифицировать по крайней мере подмножество этих пяти факторов», — сказали Сюй и Юй. «Чтобы фреймворк можно было превратить в автоматизированный или самоавтоматизированный инструмент, чтобы помочь дизайнерам улучшить свой дизайн XAI в AR».
В рамках своего исследования Сюй, Ю и их коллеги обобщили результаты более 100 исследований, посвященных различным областям, чтобы определить важные аспекты, которые следует учитывать при разработке XAI для использования AR, отвечая на вопросы, когда, что и как. Впоследствии исследователи провели масштабный опрос с участием более 500 пользователей и провели семинар с 12 экспертами в этой области. Ответы на опрос и мнения, которыми поделились эксперты во время семинара, позволили получить ценную информацию, которая легла в основу разработки XAIR.
«XAIR — это первая платформа для проектирования XAI в сценариях дополненной реальности, которая также включает в себя рекомендации для поддержки дизайнеров в их процессе дизайнерского мышления», — сказали Сюй и Ю. «Результаты семинаров по дизайну с участием 10 дизайнеров показали, что XAIR может предоставить дизайнерам значимую и содержательную творческую поддержку. Кроме того, мы внедрили систему дополненной реальности в реальном времени на основе одного дизайна и протестировали ее с 12 конечными пользователями».
Чтобы оценить ценность своей структуры, исследователи использовали ее для создания реальной системы XAI и протестировали ее в режиме реального времени в ряде сценариев дополненной реальности. Они обнаружили, что пользователи воспринимали эту систему как прозрачную и заслуживающую доверия, предполагая, что их структура эффективно руководила ее разработкой. В будущем платформа XAIR может использоваться для создания различных систем искусственного интеллекта для улучшения приложений дополненной реальности, которые могут объяснять свои прогнозы и, таким образом, воспринимаются пользователями как более надежные.
«В наших следующих исследованиях мы планируем изучить автоматизацию структуры проектирования, создание персонализированного опыта XAI в AR с течением времени и предоставление пользователям возможности оставлять отзывы для дальнейшего улучшения системы и т. д.», — добавили Сюй и Ю. . « Структура XAIR создает основу и дает нам рекомендации для изучения взаимодействия XAI в будущих системах дополненной реальности. Недавний взрыв генеративного ИИ также очень интересен, и нам было бы интересно изучить, как эта тенденция может повлиять на будущий дизайн XAI в AR».
