К содержанию
Quantoros

Чем полное дообучение отличается от PEFT?

LLM & AIУровень: БазаFundamentals

Чем полное дообучение отличается от PEFT?

Подсказки
  • Какие параметры изменяются и какие остаются замороженными?
  • Разделите память весов, градиентов, состояний оптимизатора и активаций.

Ответ

Полное дообучение обновляет все выбранные веса и требует памяти под их градиенты и состояние оптимизатора. PEFT обучает небольшую добавку: низкоранговые матрицы LoRA, адаптерные слои или мягкие промпты, обычно замораживая основу. QLoRA дополнительно хранит базовые веса в квантованном виде. Это снижает стоимость и размер сохраняемых изменений, но качество зависит от задачи; PEFT не всегда равен полному обучению, а полное не всегда автоматически лучше.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы