Карточка Junior Безопасность LLM спрашивают часто обновлено
Прямая и косвенная инъекция
Вопрос
Чем прямая prompt injection отличается от косвенной?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
Прямая: атакующий сам пишет вредную инструкцию в чат. Косвенная: инструкция спрятана в данных, которые модель прочитает (страница, письмо, документ, ответ инструмента), атакующий может не взаимодействовать с ботом вообще.
Ответ
Прямая: атакующий сам пишет вредную инструкцию в чат. Косвенная: инструкция спрятана в данных, которые модель прочитает (страница, письмо, документ, ответ инструмента), атакующий может не взаимодействовать с ботом вообще.
Разбор
Прямая: атакующий сам пишет вредную инструкцию в чат. Косвенная: инструкция спрятана в данных, которые модель прочитает (страница, письмо, документ, ответ инструмента), атакующий может не взаимодействовать с ботом вообще.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.