Что LoRA замораживает и обучает и почему это удешевляет хранение многих версий?
LLM & AIУровень: ПрактикаFine-tuning & Alignment
Что LoRA замораживает и обучает и почему это удешевляет хранение многих версий?
Подсказки
- Какие параметры изменяются и какие остаются замороженными?
- Разделите память весов, градиентов, состояний оптимизатора и активаций.
Ответ
LoRA обычно замораживает базовые веса и обучает низкоранговые поправки BA в выбранных матрицах. Для каждой задачи можно сохранять только небольшой адаптер, используя общую базовую модель, а не полную копию весов. Размер зависит от ранга и числа целевых слоёв, поэтому он не всегда ограничен несколькими мегабайтами. При включённом адаптере поведение основы меняется, несмотря на замороженные исходные веса.
Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · перевод: Quantoros