Вчені створили зображення, від якого автомобільний автопілот «сходить з розуму»

Уразливістю автопілотів виявилося яскраве різнобарвне пляма, при вигляді якого поведінка електроніки стає непередбачуваним.

Проблему виявила група дослідників Інституту інтелектуальних систем імені Макса Планка. Вони з'ясували, що «безпілотник» перестає коректно визначати об'єкти на дорозі, якщо у кадр камери потрапляє особливий малюнок. Таке різнобарвне пляма, надруковане на футболці, у вигляді наклейки на бампер або на сумці з продуктами, може стати проблемою для безпеки автономних автомобілів — вони можуть різко змінити напрямок руху або зупинитися.

Вчені побоюються, що в майбутньому, коли самоврядний транспорт стане масовим, подібної «картинкою» можуть скористатися зловмисники. Особливо турбує вчених, що системи самонавчання на основі нейронних мереж, які є складовою частиною «автопілотів», починають помилятися навіть від маленьких зображень-обманок.

Дослідники працюють над вирішенням цієї проблеми і закликають звернути увагу на загрозу компанії, які розробляють системи автономного водіння.

Джерело: Max Planck Research Group for Vision Autonomous

Категория: Авто