Уличные знаки легко сбивают с толку самоуправляемые автомобили

Автопроизводители и регулирующие органы обеспокоены возможностью сбоев самоуправляемых автомобилей из-за хакерских атак, но исследователей из Университета Вашингтона тревожит более реальная угроза — порча уличных знаков. Они обнаружили, что относительно легко сбить с толку систему распознавания изображений автономного автомобиля, заклеивая уличные знаки наклейками. Если злоумышленники знают, как автомобиль классифицирует объекты, которые он видит (например, изображения знаков), они могут создавать наклейки, которые смогут обмануть автомобиль, заставив считать tuj, что знак действительно что-то означает. Например, нижеприведенную графику «love / hate» на знаке «Stop» алгоритм компьютерного зрения воспринял как предупреждение об ограничении скорости.

Легко представить вытекающие из этого проблемы. Это может привести к аварии, но также может вызвать долговременный хаос — представьте, как остановилось движение на улицах города в ожидании, пока технические службы не снимут наклейки со знака.

Но есть способы борьбы с этим. Исследовательская группа предлагает использовать контекстную информацию для подтверждения правильности знака. Откуда, к примеру, должен взяться на скоростной автотрассе знак остановки? Кроме того, местные власти могут также устанавливать знаки, для покрытия которых используется специальный материал, на который невозможно что-то наклеить, или размещать знаки так, чтобы к ним невозможно было добраться. В любом случае что-то придётся менять, когда пассажиры решаться довериться автономным транспортным средствам.

Источник