Инъекции в промпт и утечки данных: инженерные ограждения для LLM в проде

Границы доверия

Не смешивайте системные инструкции и пользовательский ввод без явного разделителя. Модель не «знает», что вредоносно — ей подают текст.

Инструменты

Агент с доступом к SQL или почте должен иметь белые списки операций. Подтверждение человеком — для разрушительных действий.

Логи

Маскируйте ПДн в логах промптов. Полный текст диалога в SIEM часто избыточен и рискован.

Итог

Комбинируйте политику данных, ограничение инструментов и мониторинг аномалий. Одного фильтра недостаточно.