К содержанию
Quantoros

Чему instruction tuning учит по сравнению с обычным предобучением?

LLM & AIУровень: ПрактикаFine-tuning & Alignment

Чему instruction tuning учит по сравнению с обычным предобучением?

Подсказки
  • Уточните этап: предобучение, адаптация, генерация или оценка.
  • Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.

Ответ

Базовая языковая модель учится правдоподобно продолжать текст и не обязана трактовать любой вопрос как просьбу дать полезный ответ. Instruction tuning показывает пары заданий и желаемых решений, закрепляя следование инструкции, формат и стиль взаимодействия. Это изменение распределения поведения, а не абсолютная гарантия выполнения каждой инструкции или появления новых знаний.

Источник и лицензия: Skillumen — Awesome AI Engineer Interview Questions · CC0-1.0 · перевод: Quantoros

Похожие вопросы