Выбор ответа Senior Промптинг и структурированный вывод обновлено

Порядок полей в схеме ответа

Вопрос

Схема ответа классификатора: {"label": ..., "reasoning": ...}. Качество ниже ожидаемого. Что стоит поменять в первую очередь?

Попробуйте сами

Выберите вариант, и откроется разбор.

Показать ответ и разбор

Коротко

Правильный ответ: Поставить reasoning перед label: сейчас рассуждение пишется уже после выбора метки. Модель не видит будущее: если метка идёт первой, рассуждение после неё просто оправдывает уже сделанный выбор.

Варианты ответа

  1. Удалить reasoning, чтобы сэкономить токены: на качество классификации оно не влияет
  2. Переименовать поля на английский: модель хуже понимает русские ключи в JSON-схеме
  3. Поднять температуру до 1.5, чтобы модель дольше думала над выбором метки класса
  4. Поставить reasoning перед label: сейчас рассуждение пишется уже после выбора меткиправильный ответ

Разбор

Модель не видит будущее: если метка идёт первой, рассуждение после неё просто оправдывает уже сделанный выбор. Поле рассуждения перед ответом даёт эффект chain-of-thought. Удаление рассуждения может ухудшить качество на сложных случаях. Ключи и так английские, а русские модели понимают. Высокая температура добавит шума, а не размышлений.

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.