Технология искусственного интеллекта преувеличивает предубеждения в восприятии возраста лица больше, чем люди.
За искусственным интеллектом будущее. На самом деле, это уже здесь. Одним из последних достижений является его использование для автоматической оценки возраста на основе лица человека, технологии, используемой для определения того, кто может заходить в бар или потенциально просматривать онлайн-контент с возрастным ограничением.
Но есть ли предубеждения в обработке ИИ? Исследователи из Западного университета и Университета Бен-Гуриона в Негеве (Израиль) протестировали большую выборку известных основных технологий искусственного интеллекта, доступных сегодня, и обнаружили, что они не только воспроизводят человеческие предубеждения при распознавании возраста лица, но и преувеличивают эти предубеждения.
Результаты были опубликованы в Scientific Reports.
Оценка возраста человека по его внешности страдает от нескольких хорошо известных человеческих предубеждений и неточностей. Прошлые исследования этой международной исследовательской группы доказали, что люди склонны переоценивать возраст людей с улыбающимися лицами по сравнению с людьми с нейтральным выражением лица, и точность наших оценок снижается для лиц старшего возраста.
«Растущий интерес к оценке возраста с помощью технологий поднимает вопрос о том, как ИИ сравнивается с человеческими способностями и страдает ли он от тех же предубеждений», — сказал старший автор Мелвин А. Гудейл из Западного института неврологии. «Наши результаты показали, что ИИ еще менее точен и более предвзят, чем люди-наблюдатели, когда оценивает возраст человека, хотя общая картина ошибок и предубеждений аналогична».
В исследовании ИИ завышал возраст улыбающихся лиц даже больше, чем люди-наблюдатели, и показал более резкое снижение точности для лиц пожилых людей по сравнению с лицами младших возрастных групп, для улыбающихся лиц по сравнению с нейтральными лицами и для женщин по сравнению с мужскими лицами. .
«Эти результаты показывают, что оценка возраста по лицам в значительной степени определяется визуальными подсказками , а не предубеждениями высокого уровня», — сказал ведущий автор Цви Ганель, Бен-Гурион, отдел когнитивных и мозговых наук. «Образец ошибок и предубеждений, которые мы наблюдали, может дать некоторое представление о разработке более эффективной технологии искусственного интеллекта для оценки возраста по лицам».
Данные о производительности ИИ были собраны с 2020 по 2022 год с использованием репрезентативного набора из 21 текущей коммерческой и некоммерческой платформы оценки возраста ИИ. Производительность ИИ сравнивалась с производительностью 30 студентов бакалавриата из Бен-Гуриона.
«ИИ имел тенденцию преувеличивать эффект старения от улыбки для лиц молодых людей, неправильно оценивая их возраст на целых два с половиной года. Интересно, что в то время как у людей-наблюдателей эффект старения от улыбки отсутствует для взрослых женские лица, это присутствовало в системах ИИ», — сказала Кармель Софер, Бен-Гурион, отдел когнитивных наук и наук о мозге.
Основываясь на текущих выводах, исследователи могут только строить догадки о том, почему возникают эти предубеждения — возможно, из-за наборов фотографий, используемых для обучения ИИ, или, возможно, из-за статистического явления, называемого регрессией к среднему.
Другими словами, в случае неуверенности ИИ (подобно человеку-наблюдателю) может выбрать оценку возраста, более близкую к среднему значению всего диапазона лиц, с которыми он столкнулся, что приведет к переоценке возраста молодых людей и недооценке возраста. возраста пожилых людей.
