Parameter-efficient fine-tuning: что это
Коротко
Parameter-efficient fine-tuning: методы дообучения, меняющие малую долю параметров при замороженной базе: LoRA и её варианты, адаптеры между слоями, prefix и prompt tuning. Экономят память и позволяют держать много задач на одной базе с маленькими сменными адаптерами.
Определение
Методы дообучения, меняющие малую долю параметров при замороженной базе: LoRA и её варианты, адаптеры между слоями, prefix и prompt tuning. Экономят память и позволяют держать много задач на одной базе с маленькими сменными адаптерами.
Вопросы по теме с собеседований
Запомните, а не прочитайте
В тренажёре карточка вернётся, когда начнёт забываться. А билеты по Глубокое обучение проверят, что термин понятен в деле.