Исследователи из Мюнхенского технического университета (TUM) разработали программное обеспечение для автономного вождения, которое справедливо распределяет риски на улице. Алгоритм, содержащийся в программном обеспечении, считается первым, который включает 20 этических рекомендаций группы экспертов Комиссии ЕС, что позволяет принимать значительно более дифференцированные решения, чем предыдущие алгоритмы.

Эксплуатация автоматизированных транспортных средств должна быть значительно безопаснее за счет оценки различных степеней риска для пешеходов и автомобилистов. Код доступен для широкой публики как программное обеспечение с открытым исходным кодом.

Техническая реализация — не единственное препятствие, которое необходимо преодолеть, прежде чем автономные транспортные средства могут быть разрешены на улицах в больших масштабах. Этические вопросы играют важную роль в разработке соответствующих алгоритмов: программное обеспечение должно уметь справляться с непредвиденными ситуациями и принимать необходимые решения в случае надвигающейся аварии.

Исследователи из ТУМ разработали первый этический алгоритм, который справедливо распределяет уровни риска, а не работает по принципу «или-или». Было протестировано около 2000 сценариев критических ситуаций, распределенных по разным типам улиц и регионам, таким как Европа, США и Китай. Исследовательская работа, опубликованная в журнале Nature Machine Intelligence , является совместным результатом партнерства кафедры автомобильных технологий ТУМ и кафедры деловой этики Института этики искусственного интеллекта ТУМ (IEAI).

Максимилиан Гайслингер, ученый кафедры автомобильных технологий ТУМ, объясняет этот подход: «До сих пор автономные транспортные средства всегда сталкивались с выбором «или/или» при принятии этического решения. Но уличное движение не обязательно можно разделить на четко вырезанные, черно-белые ситуации и многое другое, также необходимо учитывать бесчисленные серые оттенки между ними.Наш алгоритм взвешивает различные риски и делает этический выбор из тысяч возможных вариантов поведения — и делает это за долю секунды. секунды».

Дополнительные возможности в критических ситуациях

Основные этические параметры, на которые ориентируется оценка рисков программного обеспечения, были определены группой экспертов в виде письменной рекомендации от имени Комиссии ЕС в 2020 году. Рекомендация включает в себя основные принципы , такие как приоритет для наихудших и справедливое распределение риска. среди всех участников дорожного движения. Чтобы перевести эти правила в математические расчеты, исследовательская группа классифицировала транспортные средства и людей, движущихся в уличном движении, на основе риска, который они представляют для других, и соответствующей готовности идти на риск.

Грузовик, например, может причинить серьезный ущерб другим участникам дорожного движения, в то время как во многих сценариях сам грузовик получит лишь незначительные повреждения. С велосипедом все наоборот. На следующем этапе алгоритму было сказано не превышать максимально допустимый риск в различных уличных ситуациях. Кроме того, исследовательская группа добавила в расчет переменные, учитывающие ответственность участников дорожного движения, например, ответственность за соблюдение правил дорожного движения.

Предыдущие подходы рассматривали критические ситуации на улице лишь с небольшим количеством возможных маневров; в неясных случаях транспортное средство просто останавливалось. Оценка рисков, теперь интегрированная в код исследователей, дает больше возможных степеней свободы с меньшим риском для всех. Пример проиллюстрирует подход: автономный автомобиль хочет обогнать велосипед, а по встречной полосе приближается грузовик. Теперь используются все существующие данные об окружении и отдельных участниках.

Можно ли обогнать велосипед, не выезжая на встречную полосу движения и при этом сохраняя безопасную дистанцию ​​до велосипеда? Каков риск для каждого соответствующего транспортного средства и какой риск представляют эти транспортные средства для самого автономного транспортного средства? В неясных случаях автономный автомобиль с новым программным обеспечением всегда ждет, пока риск для всех участников не станет приемлемым. Избегаются агрессивные маневры, в то же время автономный автомобиль не просто зависает и резко тормозит. Да и Нет значения не имеют, заменяются оценкой, содержащей большое количество вариантов.

«Единственное рассмотрение традиционных этических теорий завело в тупик»

«До сих пор часто рассматривались традиционные этические теории для вывода морально допустимых решений, принимаемых автономными транспортными средствами. Это в конечном итоге приводило к тупику, поскольку во многих дорожных ситуациях не было другой альтернативы, кроме как нарушить один этический принцип», — говорит Франциска Послер, научный сотрудник кафедры деловой этики ТУМ. «Напротив, наша структура ставит этику риска в центр. Это позволяет нам принимать во внимание вероятности, чтобы делать более дифференцированные оценки».

Исследователи подчеркнули тот факт, что даже алгоритмы, основанные на этике риска, хотя и могут принимать решения, основанные на основополагающих этических принципах, в любой возможной дорожной ситуации, все же не могут гарантировать безаварийное уличное движение. В будущем необходимо будет дополнительно учитывать дополнительные различия, такие как культурные различия в принятии этических решений.

До сих пор алгоритм, разработанный в ТУМ, проверялся в ходе моделирования. В дальнейшем программное обеспечение будет протестировано на улице с использованием исследовательского автомобиля EDGAR. Код, воплощающий результаты исследовательской деятельности, доступен как программное обеспечение с открытым исходным кодом. Таким образом, TUM вносит свой вклад в разработку жизнеспособных и безопасных автономных транспортных средств.