Как организовать многошаговый диалог с LLM?
LLM & AIУровень: ПрактикаProduction Prompt Design
Как организовать многошаговый диалог с LLM?
Подсказки
- Уточните этап: предобучение, адаптация, генерация или оценка.
- Назовите входы, ограничения и один случай, в котором предложенный подход не сработает.
Ответ
Передавайте историю с корректными ролями пользователя и ассистента и отдельно сохраняйте системные правила. При росте контекста оставляйте недавние сообщения, сжимайте старые в проверяемое резюме или извлекайте нужные факты поиском. Важно сохранять актуальную цель и явно учитывать смену темы, не перенося устаревшие предположения. Ограничение окна должно быть предсказуемым: простое удаление первых сообщений может потерять существенные условия.
Источник и лицензия: JustInCache & contributors — Awesome AI Interviews · Apache-2.0 · перевод: Quantoros