К содержанию
Quantoros

Как восстановить общие способности, потерянные при дообучении?

LLM & AIУровень: ПрактикаTroubleshooting Scenarios

Как восстановить общие способности, потерянные при дообучении?

Подсказки
  • Какие параметры изменяются и какие остаются замороженными?
  • Разделите память весов, градиентов, состояний оптимизатора и активаций.

Ответ

Сравните чекпойнты, уменьшите интенсивность обновлений и добавьте качественные данные прежних задач, подбирая смесь по валидации. Регуляризация и ранняя остановка могут уменьшить деградацию. LoRA сохраняет исходную основу, позволяя отключить адаптер, но активный адаптер тоже способен ухудшать общие ответы. Снижение ранга или масштаба не является универсальным лечением; оценивайте целевое качество и набор общих навыков вместе.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы