Сопоставление Middle Безопасность LLM обновлено
Угрозы и защиты
Вопрос
Сопоставьте угрозу и наиболее подходящую защиту.
Попробуйте сами
Нажмите слева, потом подходящее справа.
Показать ответ и разбор
Коротко
Во всех парах защита стоит в коде и архитектуре, а не в промпте: модель могут обмануть, поэтому последствия ограничивают снаружи.
Правильные пары
Косвенная инъекция в письмеПодтверждение человеком перед отправкой
Утечка через внешнюю картинку в markdownБелый список доменов при рендере
Закрытые документы в RAGФильтр по правам на этапе поиска
HTML-скрипт в ответе моделиЭкранирование и санитизация вывода
ПДн у внешнего провайдераМаскирование до отправки модели
Разбор
Во всех парах защита стоит в коде и архитектуре, а не в промпте: модель могут обмануть, поэтому последствия ограничивают снаружи.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Ещё по теме «Безопасность LLM»
- Прямая и косвенная инъекция
- Слои защиты от инъекций
- Каналы утечки данных
- Маскирование персональных данных перед отправкой в модель
- Спроектируйте модерацию для пользовательского контента
- Косвенная prompt injection
- Минимальные права агента
- Можно ли полностью защититься от инъекций