Ученые выяснили, как можно запутать автопилот

Ученые Вашингтонского университета попытались запутать систему автоматического пилотирования автомобиля с помощью искаженных дорожных знаков и это им удалось.

Используя несколько цветных стикеров и дорожных знаков они смогли вызвать неадекватную реакцию беспилотника, запутав его системы. Это позволило исследователям определить, как автопилот воспринимает слегка видоизмененные картинки в значительной мере определяющие его поведение. Практически во всех случаях они спровоцировали неожиданные реакции системы.

Например, знак “Stop» с несколькими небольшими прямоугольными стикерами, не перекрывающими основное изображение, автопилот воспринял, как ограничение скоростного режима. Тот же знак “Stop» с двумя небольшими надписями над и под словом “Stop» и просто несколько затемненную картинку того же знака автопилот воспринял как сигнал для ограничения скорости.

Измененный с помощью серых стикеров знак “Движение только на право», автопилот воспринят как “Stop». Проводили ученые и другие эксперименты, которые продемонстрировали насколько легко можно повлиять на поведение автопилота с помощью самых простых вещей. В опытах не использовался автопилот какого-то конкретного производителя. Речь идет о алгоритмах, использующихся в системах автономного управления.

Источник: (Why?)