Ученые выяснили, как можно запутать автопилот
Ученые Вашингтонского университета попытались запутать систему автоматического пилотирования автомобиля с помощью искаженных дорожных знаков и это им удалось.
Используя несколько цветных стикеров и дорожных знаков они смогли вызвать неадекватную реакцию беспилотника, запутав его системы. Это позволило исследователям определить, как автопилот воспринимает слегка видоизмененные картинки в значительной мере определяющие его поведение. Практически во всех случаях они спровоцировали неожиданные реакции системы.
Например, знак “Stop» с несколькими небольшими прямоугольными стикерами, не перекрывающими основное изображение, автопилот воспринял, как ограничение скоростного режима. Тот же знак “Stop» с двумя небольшими надписями над и под словом “Stop» и просто несколько затемненную картинку того же знака автопилот воспринял как сигнал для ограничения скорости.
Измененный с помощью серых стикеров знак “Движение только на право», автопилот воспринят как “Stop». Проводили ученые и другие эксперименты, которые продемонстрировали насколько легко можно повлиять на поведение автопилота с помощью самых простых вещей. В опытах не использовался автопилот какого-то конкретного производителя. Речь идет о алгоритмах, использующихся в системах автономного управления.
Источник: (Why?)