Ученые из Вашингтонского университета в результате исследований пришли к выводу, что стикеры, наклеенные на дорожные знаки специальным образом, могут запутать автопилот автомобилей.
Опубликовав свои выводы на ресурсе arXiv, исследователи показали, что такие стикеры могут вызвать самую неожиданную реакцию беспилотного автомобиля, вплоть до экстренного торможения.
Опасность подобных отклонений довольно серьезная, потому что основным источником информации для современных систем автопилота, разрабатываемых компаниями такими компаниями, как Tesla, Google и Uber, является машинное зрение. Камеры автомобиля считывают информацию с различных объектов и автопилот с помощью нейросетей их распознает объекты, отличая пешеходов, другие автомобили, светофоры и дорожные знаки. Причем автопилот обучается во время пробных поездок, а также с помощью фотографий и видеозаписей в сети. Дорожные знаки системы автопилота читают, если только эти знаки не имеют сильных повреждений или не закрашены.
Ученые из Вашингтона обнаружили, что если на знак нанести несколько наклеек, то автопилот может всерьез запутаться. Исследователи добавили на знак STOP четыре небольших прямоугольных стикера: два белых и два черных. В результате автопилот принял этот знак за ограничение скорости до 45 миль в час.
Затем были использованы разноцветные наклейки со словами LOVE и HATE, которые наклеили и сверху и снизу надписи STOP (получилось LOVE STOP HATE). Ни о какой любви, останавливающей ненависть, автопилот даже не подумал, просто принял знак за все то же ограничение скорости до 45 миль в час.
Но какими бы не были трудности у автопилота, специалисты отрасли уверены, что накопив более основательную базу образов, машины научатся более тонко распознавать различные объекты, и смутить их будет уже не так просто.