Код Junior LLM в проде обновлено
Оценка задержки ответа
Условие
Напишите latency_ms(queue_ms, prefill_tok_per_s, decode_tok_per_s, in_tokens, out_tokens): оценка полной задержки ответа = очередь + время prefill (in_tokens / prefill_tok_per_s) + время генерации (out_tokens / decode_tok_per_s). Верните словарь {"ttft": ..., "total": ...} в миллисекундах, округлённых до целого, где ttft = очередь + prefill.
Примеры
latency_ms(0, 5000, 50, 2000, 500) // {"ttft":400,"total":10400}
latency_ms(200, 10000, 100, 20000, 100) // {"ttft":2200,"total":3200}
latency_ms(0, 5000, 50, 0, 0) // {"ttft":0,"total":0}
Решите в тренажёре
Редактор с автотестами прямо в браузере. Можно решить спокойно, вслух или под таймером, как на собесе.