Карточка Junior LLM в проде спрашивают часто обновлено
Формула стоимости запроса
Вопрос
Как посчитать стоимость запроса к модели?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
вход / 1 000 000 × цена входа за 1M + выход / 1 000 000 × цена выхода за 1M. Кешированные входные токены считаются по сниженной цене.
Ответ
вход / 1 000 000 × цена входа за 1M + выход / 1 000 000 × цена выхода за 1M. Кешированные входные токены считаются по сниженной цене. Месячный бюджет = средняя стоимость × запросов в день × 30.
Разбор
вход / 1 000 000 × цена входа за 1M + выход / 1 000 000 × цена выхода за 1M. Кешированные входные токены считаются по сниженной цене. Месячный бюджет = средняя стоимость × запросов в день × 30.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.