К содержанию
Quantoros

Что такое RLHF?

LLM & AIУровень: ПрактикаTraining & Alignment

Что такое RLHF?

Подсказки
  • Уточните этап: предобучение, адаптация, генерация или оценка.
  • Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.

Ответ

RLHF — обучение с подкреплением по обратной связи людей. В распространённой схеме люди сравнивают ответы, по сравнениям обучается модель награды, а языковая модель оптимизируется, например PPO, для получения большей награды. Ограничение или штраф KL удерживает её ближе к опорной модели. Качество зависит от предпочтений и надёжности награды; модель может эксплуатировать её ошибки. DPO использует пары предпочтений напрямую и не является тем же RL-циклом.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы