Выбор ответа Junior Инференс и генерация обновлено
Параметры генерации для извлечения данных
Вопрос
Сервис извлекает из писем поля в JSON. Какие настройки генерации разумнее всего?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Низкая температура (около 0) и структурированный вывод по JSON-схеме. Для извлечения нужна воспроизводимость и точность: низкая температура убирает случайные варианты, а схема гарантирует форму ответа.
Варианты ответа
- Температура 1.5, чтобы модель не пропускала редкие поля в письмах
- Top-k = 1000 и температура 1.0, чтобы модель видела все варианты полей
- Высокий presence penalty, чтобы ключи полей в JSON не повторялись
- Низкая температура (около 0) и структурированный вывод по JSON-схемеправильный ответ
Разбор
Для извлечения нужна воспроизводимость и точность: низкая температура убирает случайные варианты, а схема гарантирует форму ответа. Высокая температура увеличивает шанс выдумки и битого JSON. Большой top-k с T = 1 оставляет почти всё распределение. Presence penalty штрафует повтор токенов, а в JSON ключи и кавычки повторяются законно: это навредит.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.