Как объединять несколько LoRA-адаптеров?
LLM & AIУровень: ПрактикаPEFT Methods
Как объединять несколько LoRA-адаптеров?
Подсказки
- Какие параметры изменяются и какие остаются замороженными?
- Разделите память весов, градиентов, состояний оптимизатора и активаций.
Ответ
Если адаптеры совместимы с одной базой, можно сложить их взвешенные поправки: W′=W₀+ΣᵢλᵢΔWᵢ. Task arithmetic работает с такими разностями весов; TIES пытается уменьшить конфликт знаков и малозначимых обновлений, DARE разреживает и масштабирует поправки. Это не гарантирует объединение навыков без потерь. После слияния нужно проверять каждую исходную задачу, общие способности и совместимость форматов.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros