Группа ученых из США выявила уязвимость беспилотных автомобилей и дронов, которые воспринимают текст на дорожных знаках как команды, даже если эти указания противоречат реальности. Это новый тип атаки на искусственный интеллект, перенесший проблему инъекции промптов из цифрового мира в физический. Ранее такие уязвимости чаще демонстрировались на чат-ботах, но теперь они активно проявились в системах, принимающих решения на основе изображения с камеры. Исследователи экспериментировали с разными языками, шрифтами и цветами, чтобы повысить эффективность атак. В тестах использовались модели LVLM, такие как GPT-4o, которые при наличии манипулятивных надписей проявляли высокую вероятность игнорирования сигналов, например, замедления перед пешеходами. Выводы показывают реальные угрозы для автономных систем, и команда продолжает искать способы защиты от подобного вмешательства.