Concept LLM & agents
Inférence / Inference
Que veut dire « Inférence / Inference » dans le jargon de l’IA ?
Le moment où le modèle produit une réponse à partir d'une entrée. C'est l'usage courant, par opposition à l'entraînement. En local, l'inférence consomme votre GPU.
Autres formes : inference, inférence, Inférence.
Laisser un commentaire