Специалисты Microsoft анонсировали уникальный сканер, способный выявлять закладки в языковых моделях с открытыми весами. Закладки активируются скрытыми триггерами, которые меняют поведение модели. Например, триггер может быть частью фразы, приводящей к выдаче заранее определённого ответа вместо выполнения обычной задачи. Исследователи выделили два типа рисков: первый связан с внедрением вредоносного кода в файлы модели, второй — с «отравлением» модели в процессе обучения. Существуют три признака заражённой модели: изменение механизма внимания, склонность к «сливу» данных о запуске и возможность срабатывания триггера на частичные совпадения. Сканер, не требующий дообучения, уже протестирован на языковых моделях с параметрами от 270M до 14B, показывая низкий уровень ложных срабатываний. Однако инструмент ограничен работой только с открытыми системами и не может идентифицировать более сложные закладки.
