Как организовать процесс обучения модели?
Deep LearningУровень: ПрактикаOptimization in neural networks
Как организовать процесс обучения модели?
Подсказки
- Проследите данные и градиенты через модель, отмечая размерности.
- Разделите поведение при обучении и инференсе; найдите допущение, без которого ответ неверен.
Ответ
Очистите данные, обработайте масштаб признаков и выделите train/validation/test; выберите архитектуру и гиперпараметры. Во время обучения выполняйте прямой проход, вычисляйте loss и обновляйте веса, наблюдая за train- и validation-метриками. Подбирайте настройки и регуляризацию — dropout, weight decay, early stopping. Итоговую модель оцените на нетронутом тесте.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros