Каналы утечки данных
Вопрос
Какими путями данные утекают из LLM-приложения?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
Ответ
Через ответ (пересказ закрытого контекста, системного промпта). Через рендер: внешние картинки и ссылки с данными в URL. Через инструменты: отправка писем, запросы на внешние адреса. Через логи и трейсы. Через общий кеш. Через провайдера, если данные отправлены во внешний API.
Разбор
Через ответ (пересказ закрытого контекста, системного промпта). Через рендер: внешние картинки и ссылки с данными в URL. Через инструменты: отправка писем, запросы на внешние адреса. Через логи и трейсы. Через общий кеш. Через провайдера, если данные отправлены во внешний API.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.