Выбор ответа Middle Промптинг и структурированный вывод обновлено
Выдуманные значения в извлечении
Вопрос
Модель извлекает из резюме поле salary_expectation, и когда в тексте зарплаты нет, пишет правдоподобную сумму. Как исправить в первую очередь?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Разрешить в схеме null для поля и указать: если значения нет в тексте, вернуть null. Если схема требует число, модель обязана что-то вписать, и вписывает правдоподобное.
Варианты ответа
- Снизить
max_tokens, чтобы у модели не оставалось токенов на выдуманное значение - Разрешить в схеме
nullдля поля и указать: если значения нет в тексте, вернутьnullправильный ответ - Добавить в промпт «НЕ ГАЛЛЮЦИНИРУЙ» заглавными буквами в начале и в конце инструкции
- Перейти на модель с большим контекстным окном, чтобы она видела резюме целиком
Разбор
Если схема требует число, модель обязана что-то вписать, и вписывает правдоподобное. Разрешённый null и явная инструкция дают законный выход. Лимит токенов не связан с выдумкой. Капслок без изменения схемы помогает слабо: формат всё равно требует значения. Окно тут не при чём, текст и так влезает.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.