Чтобы создать проблемы автономным машинам и поставить под угрозу жизни людей, не нужно быть профессиональным хакером. Исследователи нашли способ запутать самоуправляемые авто при помощи небольших наклеек на дорожных знаках.
Разработчики самоуправляемых автомобилей и регуляторы в основном обеспокоены угрозами безопасности самоуправляемых автомобилей, связанных с возможностью их удаленного взлома через интернет или локального подключения к их компьютерным системам. Но, как выяснилось, создать проблемы автономным машинам и поставить под угрозу жизни людей можно куда проще.
Исследователи из университета Вашингтона обнаружили, что системы машинного зрения, применяемые в машинах с автопилотом для распознавания дорожных знаков, легко сбить с толку: достаточно определенным образом разместить на знаках небольшие наклейки.
”Стартап хочет спрятать людей от систем распознавания лицчитайте также
Если злоумышленникам известно, как именно автомобиль идентифицирует тот или иной знак, они могут сгенерировать изображения, которые, не меняя знак значительно, "превратят" его в "глазах" машины в совершенно другой.
Например, разместив наклейки на знаке "СТОП" (см. фото выше), исследователи добились, чтобы системы автономных автомобилей воспринимали его как знак ограничения скорости. В реальном мире это может привести к серьезной аварии. Исследователи предлагают бороться с уязвимостью, добавляя в управляющие автономным автомобилем алгоритмы, дополнительно анализирующие контекст, в котором встретился знак. Они помогут убедиться, что знак не вводит систему в заблуждение — машина должна "удивиться", обнаружив "СТОП" на скоростном шоссе или ограничение скорости в 100 км/ч на городской улице.
Источник: Engadget
