Беспилотный автомобиль научились обманывать специальными картинками

Orange

Мастер слова
Регистрация
7 Окт 2017
Сообщения
8,672
Реакции
1,319
Инженеры автомобильных компаний уверены, что будущее за робомобилями. Специалисты многих предприятий работают над созданием максимально безопасного беспилотного автомобиля.

Группа инженеров из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета провели ряд экспериментов. Цель исследований заключалась в том, чтобы понять, как автомобили без управления реагируют на человеческие фигуры.

Выяснилось, что на работу автопилота может повлиять любое цветное пятно, которое зафиксируют видеокамеры. Предмет может быть статичным или перемещаться в пространстве. При фиксации цветного предмета электроника дает сбой. Робомобиль, обходя препятствие, может уйти с полосы или резко затормозить.


Примерно так же реагирует мозг человека во время эпилептического припадка. В мозге больного эпилепсией вспышки света на определенной частоте вызывают припадки. Беспилотник реагирует на стробоскопические вспышки подобно мозгу больного человека. В этом машина и человек схожи.

За четыре часа авторы исследования смогли создать цветовой ряд, который у электроники робомобиля вызвал определенное состояние. Данное поведение электронной части можно интерпретировать как панику, и это может стать угрозой для окружающих.

Цветовой узор можно нанести на одежду, сумки, сделать наклейки на дорожные знаки. С помощью цветных пятен хакеры могут воспользоваться автомобилем или угнать его.

Это проблема искусственного интеллекта, который не может корректно распознавать изображения. Алгоритм электронной части использует встроенную камеру наблюдения. Камера следит за дорогой и обнаруживает препятствия. Если система распознавания дает сбой, то робомобиль из соображений безопасности, в лучшем случае, остановиться. Один и тот же беспилотник при обнаружении одного и того же пятна, реагирует на него по-разному.

Ученые отметили, что баг возникает с вероятностью в несколько процентов. Этого достаточно для непредсказуемого поведения автомобиля. Специалисты всего мира работают над решением этой задачи.

На данный момент исследователи говорят о том, что перед производителями автомобилей стоит задача «привить иммунитет» к цветовым атакам.
 
Назад
Сверху