Выбор ответа Junior Промптинг и структурированный вывод обновлено
Зачем отделять данные от инструкций
Вопрос
Почему документы и ввод пользователя в промпте оборачивают в теги вроде <doc>...</doc>?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Чтобы модель отличала данные от инструкций и не исполняла текст документа как команду. Явные границы помогают модели понять, где инструкции, а где материал для обработки, и снижают (но не убирают полностью) риск, что фраза внутри документа будет воспринята как команда.
Варианты ответа
- Чтобы токенайзер обрабатывал их быстрее и кешировал размеченные фрагменты
- Потому что без тегов модель не видит текст длиннее 1000 токенов в одном сообщении
- Чтобы модель отличала данные от инструкций и не исполняла текст документа как командуправильный ответ
- Чтобы провайдер не тарифицировал эти токены как часть пользовательского промпта
Разбор
Явные границы помогают модели понять, где инструкции, а где материал для обработки, и снижают (но не убирают полностью) риск, что фраза внутри документа будет воспринята как команда. На скорость токенизации это не влияет. Ограничения в 1000 токенов нет. Теги тарифицируются как обычные токены.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.