К содержанию
Quantoros

Как объединять несколько LoRA-адаптеров?

LLM & AIУровень: ПрактикаPEFT Methods

Как объединять несколько LoRA-адаптеров?

Подсказки
  • Какие параметры изменяются и какие остаются замороженными?
  • Разделите память весов, градиентов, состояний оптимизатора и активаций.

Ответ

Если адаптеры совместимы с одной базой, можно сложить их взвешенные поправки: W′=W₀+ΣᵢλᵢΔWᵢ. Task arithmetic работает с такими разностями весов; TIES пытается уменьшить конфликт знаков и малозначимых обновлений, DARE разреживает и масштабирует поправки. Это не гарантирует объединение навыков без потерь. После слияния нужно проверять каждую исходную задачу, общие способности и совместимость форматов.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы