Беспилотные автомобили можно обмануть картинкой

Группа ученых из Института интеллектуальных систем Макса Планка установили, что беспилотник перестает определять объекты на дороге, если в поле зрение камеры попадает особый рисунок. Картинка представляет собой яркое пятно, в котором сочетаются несколько определенных цветов. На то, чтобы вывести нужное сочетание цветов, у исследователей ушло всего несколько часов. Затем они наглядно продемонстрировали, как ведет себя «умная» система, когда встречает эту картинку, и предупредили, что реакция беспилотника может быть непредсказуемой. Например, машина резко свернет или затормозит. Видео: Max Planck Institute for Intelligent Systems Выявленная уязвимость обеспокоила ученых. Они опасаются, что в скором будущем, когда беспилотный транспорт получит массовое распространение, этой «обманкой» могут воспользоваться хакеры. Даже маленькое изображение, нанесенное на футболку, может нарушать работу нейронных сетей и привести к катастрофическим последствиям. В настоящее время исследователи работают над решением этой проблемы. Беспилотные автомобили тестируют в том числе и в Москве. В частности, «Яндекс» выпустил на дороги Hyundai Sonata, оснащенный продвинутым автопилотом. В июле этого года машина попалась на нарушении ПДД – выехала за стоп-линию, пока горел запрещающий сигнал светофора. В самой компании после инцидента заявили, что виновата не умная система, а водитель-испытатель, который в тот момент перевел автомобиль в режим ручного управления.