Чем полное дообучение отличается от PEFT?
LLM & AIУровень: БазаFundamentals
Чем полное дообучение отличается от PEFT?
Подсказки
- Какие параметры изменяются и какие остаются замороженными?
- Разделите память весов, градиентов, состояний оптимизатора и активаций.
Ответ
Полное дообучение обновляет все выбранные веса и требует памяти под их градиенты и состояние оптимизатора. PEFT обучает небольшую добавку: низкоранговые матрицы LoRA, адаптерные слои или мягкие промпты, обычно замораживая основу. QLoRA дополнительно хранит базовые веса в квантованном виде. Это снижает стоимость и размер сохраняемых изменений, но качество зависит от задачи; PEFT не всегда равен полному обучению, а полное не всегда автоматически лучше.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros