Искусственный интеллект все чаще внедряется в корпоративные процессы, получая доступ к внутренним данным и системам. Однако многие существующие защитные механизмы уязвимы к промт-инъекциям, заставляющим модели выдавать нежелательную информацию. Такие атаки представляют собой серьезные риски для организаций, проходящих цифровую трансформацию.
На конференции Selectel Tech Day 2025 была представлена игра «Защищ[AI]», где пользователи могут на практике изучить промт-инъекции и попытаться атаковать ИИ-ассистента, использующего реальную языковую модель. Игра показывает, как легко обойти защищенности ИИ и выявляет необходимость дополнительной защиты для приложений на базе LLM.
Важным выводом является то, что безопасность искусственного интеллекта требует не только технических решений, но и повышения осведомленности пользователей, что делает обучение более значимым и практическим.