Карточка Junior Квантование и дистилляция обновлено
Форматы чисел
Вопрос
Сколько байт на параметр в fp32, fp16, bf16, int8, int4?
Попробуйте сами
Ответьте про себя или вслух, потом откройте ответ и сверьтесь.
Показать ответ и разбор
Коротко
fp32: 4 байта. fp16 и bf16: 2 байта. int8 и fp8: 1 байт. int4: полбайта (плюс масштабы групп). Память под веса = число параметров × байты на параметр.
Ответ
fp32: 4 байта. fp16 и bf16: 2 байта. int8 и fp8: 1 байт. int4: полбайта (плюс масштабы групп). Память под веса = число параметров × байты на параметр.
Разбор
fp32: 4 байта. fp16 и bf16: 2 байта. int8 и fp8: 1 байт. int4: полбайта (плюс масштабы групп). Память под веса = число параметров × байты на параметр.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.