К содержанию
Quantoros

Как организовать многошаговый диалог с LLM?

LLM & AIУровень: ПрактикаProduction Prompt Design

Как организовать многошаговый диалог с LLM?

Подсказки
  • Уточните этап: предобучение, адаптация, генерация или оценка.
  • Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.

Ответ

Передавайте историю с корректными ролями пользователя и ассистента и отдельно сохраняйте системные правила. При росте контекста оставляйте недавние сообщения, сжимайте старые в проверяемое резюме или извлекайте нужные факты поиском. Важно сохранять актуальную цель и явно учитывать смену темы, не перенося устаревшие предположения. Ограничение окна должно быть предсказуемым: простое удаление первых сообщений может потерять существенные условия.

Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros

Похожие вопросы