Какие три этапа часто выделяют при создании диалоговой модели?
LLM & AIУровень: ПрактикаFine-tuning & Alignment
Какие три этапа часто выделяют при создании диалоговой модели?
Подсказки
- Уточните этап: предобучение, адаптация, генерация или оценка.
- Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.
Ответ
Предобучение на предсказании токенов формирует языковые и другие статистические закономерности. SFT на инструкциях и качественных ответах учит желаемому способу выполнения задач. Обучение по предпочтениям, например RLHF, подстраивает поведение под оценки полезности и других критериев. Это распространённая схема, а не обязательная последовательность для каждой модели; ни один этап не гарантирует безошибочность.
Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · перевод: Quantoros