Исследование: коробки, конусы и даже велосипеды создают проблемы для беспилотных автомобилей
Исследователи из Калифорнийского университета в Ирвайне заявляют, что вполне обычный предмет или объект на обочине дороги может привести к непредсказуемому поведению автомобиля с автопилотом во время движения.
По словам автора исследования, профессора Ци Альфреда Чэня (Qi Alfred Chen), простая коробка, дорожный конус или велосипед могут «напугать» беспилотное транспортное средство и заставить его совершить опасный для других участников движения манёвр. Такие автомобили не могут отличить объекты, которые случайно оказались на дороге, или те, которые были оставлены преднамеренно. И то, и другое может привести к неустойчивому поведению транспортного средства.
Исследователи сосредоточили внимание на уязвимостях безопасности, характерных для модуля планирования — части программного кода, который управляет автономными системами вождения. Он следит за процессами принятия решений транспортным средством, определяя дальнейшие его действия: когда нужно двигаться, менять полосу движения, замедляться и останавливаться. По мнению исследователей, модуль разработан с большой осторожностью, чтобы беспилотный автомобиль не вышел из-под контроля, а протестированное программное обеспечение оказалось слишком консервативным. Это может привести к тому, что автомобиль станет препятствием на дороге.
https://youtu.be/dCWJTyiE_-s Для тестирования был разработан инструмент под названием PlanFuzz, который может автоматически обнаруживать уязвимости в широко используемых автоматизированных системах вождения. Команда использовала его для оценки трёх различных поведенческих сценариев планирования систем автономного вождения промышленного уровня с открытым исходным кодом Apollo и Autoware. Выяснилось, что картонные коробки и велосипеды, размещённые на обочине дороги, заставляли автомобили постоянно останавливаться на пустых улицах и перекрёстках. В другом тесте автомобили, внезапно «почувствовав» опасность, забыли сменить полосу движения, как планировали до этого.
https://youtu.be/P5IdQ_R5WWY Исследователи считают, что чрезмерная осторожность многих систем автономного вождения, может оказать негативное влияние на безопасность дорожного движения.
