Утечка через markdown-картинку
Вопрос
Чат-бот рендерит ответы модели как markdown. В документе базы знаний атакующий спрятал инструкцию вставить в ответ картинку  с историей диалога в параметре. Что сработает как защита?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Варианты ответа
- Не загружать внешние картинки из ответа или разрешать только домены из белого спискаправильный ответ
- Попросить модель в системном промпте никогда не вставлять картинки и ссылки в ответы
- Ограничить длину ответа 500 символами, чтобы история диалога не поместилась в URL
- Перейти на модель с большим окном, которая лучше отличает инструкции от данных
Разбор
Утечка происходит в браузере: клиент загружает картинку, и данные из URL уходят на сервер атакующего без участия пользователя. Надёжно закрывает канал только рендерер: запрет внешних ресурсов или белый список доменов (плюс CSP). Просьба в промпте обходится той же инъекцией. Ограничение длины не мешает короткому URL с данными. Окно модели не связано с утечкой.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Ещё по теме «Безопасность LLM»
- Прямая и косвенная инъекция
- Слои защиты от инъекций
- Каналы утечки данных
- Маскирование персональных данных перед отправкой в модель
- Спроектируйте модерацию для пользовательского контента
- Косвенная prompt injection
- Как мерить модерацию
- Можно ли полностью защититься от инъекций