Concept LLM & agents
Compaction du contexte / Context compaction
Que veut dire « Compaction du contexte / Context compaction » dans le jargon de l’IA ?
Réduction structurée de l’historique lorsqu’une conversation approche la capacité de contexte du modèle.
Autres formes : context compaction, compaction du contexte.
Quand une conversation approche la limite de la fenêtre de contexte, une compaction résume l'historique en conservant les décisions et faits utiles, pour continuer sans tout réexpliquer. Mal faite, elle peut faire perdre une contrainte posée tôt dans l'échange — d'où l'intérêt d'une mémoire durable en complément.
Laisser un commentaire