Как восстановить общие способности, потерянные при дообучении?
LLM & AIУровень: ПрактикаTroubleshooting Scenarios
Как восстановить общие способности, потерянные при дообучении?
Подсказки
- Какие параметры изменяются и какие остаются замороженными?
- Разделите память весов, градиентов, состояний оптимизатора и активаций.
Ответ
Сравните чекпойнты, уменьшите интенсивность обновлений и добавьте качественные данные прежних задач, подбирая смесь по валидации. Регуляризация и ранняя остановка могут уменьшить деградацию. LoRA сохраняет исходную основу, позволяя отключить адаптер, но активный адаптер тоже способен ухудшать общие ответы. Снижение ранга или масштаба не является универсальным лечением; оценивайте целевое качество и набор общих навыков вместе.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros