Когда беспилотный автомобиль находится в движении, одно неверное решение его системы предотвращения столкновений может привести к катастрофе, но исследователи из Калифорнийского университета в Ирвине определили еще один возможный риск: автономные транспортные средства могут быть обманом заставлены резко остановиться или совершить другое нежелательное вождение, путем размещения обычного предмета на обочине дороги.
«Коробка, велосипед или дорожный конус могут быть всем, что необходимо, чтобы напугать беспилотное транспортное средство и заставить его совершить опасную остановку посреди улицы или на съезде с автомагистрали, создавая опасность для других автомобилистов и пешеходов», — говорится в сообщении. Ци Альфред Чен, профессор информатики UCI и соавтор статьи по этому вопросу, недавно представленной на Симпозиуме по безопасности сетей и распределенных систем в Сан-Диего.
Чен добавил, что транспортные средства не могут отличить объекты, оказавшиеся на дороге в результате чистой случайности, или объекты, оставленные преднамеренно в результате физической атаки типа «отказ в обслуживании». «И то, и другое может вызвать неустойчивое поведение при вождении», — сказал Чен.
Чен и его команда сосредоточили свое расследование на уязвимостях безопасности, характерных для модуля планирования, части программного кода, управляющего автономными системами вождения. Этот компонент наблюдает за процессами принятия решений транспортным средством, определяя, когда двигаться, менять полосу движения или снижать скорость и останавливаться, среди прочих функций.
«Модуль планирования транспортного средства разработан с большой осторожностью, логически, потому что вы не хотите, чтобы беспилотные транспортные средства катились, выходя из-под контроля», — сказал ведущий автор Зивен Ван, доктор философии UCI. студент компьютерных наук. «Но наше тестирование показало, что программное обеспечение может быть слишком консервативным, и это может привести к тому, что автомобиль станет препятствием для движения или еще хуже».
Для этого проекта исследователи из Школы информации и компьютерных наук имени Дональда Брена UCI разработали инструмент тестирования под названием PlanFuzz, который может автоматически обнаруживать уязвимости в широко используемых автоматизированных системах вождения. Как показано в видеодемонстрациях, команда использовала PlanFuzz для оценки трех различных реализаций поведенческого планирования для систем автономного вождения промышленного уровня с открытым исходным кодом Apollo и Autoware.
Исследователи обнаружили, что картонные коробки и велосипеды, размещенные на обочине дороги, заставляли автомобили постоянно останавливаться на пустых улицах и перекрестках. В другом тесте автомобили с автономным управлением, почувствовав несуществующую угрозу, забыли сменить полосу движения, как и планировалось.
«Автономные транспортные средства были вовлечены в аварии со смертельным исходом, что нанесло большой финансовый и репутационный ущерб таким компаниям, как Uber и Tesla, поэтому мы можем понять, почему производители и поставщики услуг хотят склоняться к осторожности», — сказал Чен. «Но чрезмерно консервативное поведение, проявляемое во многих автономных системах вождения, может повлиять на плавный поток движения и движение пассажиров и грузов, что также может оказать негативное влияние на бизнес и безопасность дорожного движения».
К Чену и Вану в этом проекте присоединились Джунджи Шен, доктор философии UCI. студент компьютерных наук; Джален Чуанг, студент бакалавриата UCI по информатике; Синь Ся, постдокторант Калифорнийского университета в Лос-Анджелесе в области гражданского и экологического строительства; Джошуа Гарсия, доцент кафедры информатики UCI; и Джиаки Ма, адъюнкт-профессор Калифорнийского университета в Лос-Анджелесе по гражданскому и экологическому строительству.
