Код Junior Дообучение и LoRA обновлено
Сколько параметров обучает LoRA
Условие
Напишите lora_params(shapes, r): shapes список размеров адаптируемых матриц [d, k]. Верните словарь {"lora": число обучаемых параметров LoRA ранга r по всем матрицам, "full": число параметров самих матриц, "pct": доля lora от full в процентах, округлённая до 2 знаков}. Если full = 0, pct = 0.0.
Примеры
lora_params([[4096, 4096]], 8) // {"lora":65536,"full":16777216,"pct":0.39}
lora_params([[4096, 4096], [4096, 4096]], 16) // {"lora":262144,"full":33554432,"pct":0.78}
lora_params([[4096, 1024], [4096, 14336]], 8) // {"lora":188416,"full":62914560,"pct":0.3}
Решите в тренажёре
Редактор с автотестами прямо в браузере. Можно решить спокойно, вслух или под таймером, как на собесе.