LLM-as-judge: как использовать правильно
Вопрос
Расскажите, как вы бы использовали LLM-as-judge для оценки чат-бота и как защититься от его ошибок.
Попробуйте сами
Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.
Показать ответ и разбор
Коротко
Что должно прозвучать в ответе
Рубрика с конкретными критериями, лучше бинарные вопросы
Эталон или контекст в промпте судьи
Калибровка на ручной разметке, согласие с людьми
Борьба с искажениями: перестановка, штраф за многословие, другая семья моделей
Выборочная ручная проверка на масштабе
Версии судьи как часть оценочного конвейера
Что могут спросить следом
- Что делать, если согласие судьи с людьми 60%?
- Можно ли использовать ту же модель, что и в продукте?
Разбор
Образцовый ответ: «Судья это инструмент измерения, и его надо сначала проверить. Пишу рубрику с конкретными критериями и предпочитаю бинарные вопросы: есть ли утверждение без опоры на контекст, ответил ли на вопрос, есть ли лишнее. Даю судье эталон или найденный контекст, чтобы он не опирался на свои знания. Затем люди размечают 100-200 примеров, я меряю согласие судьи с ними и правлю рубрику, пока согласие не станет приемлемым. Для попарных сравнений прогоняю оба порядка. По возможности беру судью из другой семьи моделей, чем продукт, чтобы не было самопредпочтения. Версию промпта и модели судьи фиксирую: смена судьи меняет шкалу. И на масштабе регулярно перепроверяю выборку руками, потому что распределение запросов дрейфует».
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Предыдущий вопрос
Код-ревью: скрипт сравнения двух промптов
Следующий вопрос
Как построить оценку LLM-фичи