Concept LLM & agents
hallucination
Que veut dire « hallucination » dans le jargon de l’IA ?
Quand le modèle invente avec aplomb une information fausse mais plausible. Le risque majeur en production : d'où l'importance des garde-fous, du RAG et de la vérification humaine.
Autres formes : hallucination, Hallucination.
Une hallucination est une réponse formulée avec assurance mais non fondée ou fausse : le modèle complète par plausibilité statistique plutôt que par vérification. Le grounding, la citation de sources et la vérification systématique en réduisent le risque, sans l'éliminer complètement.
Exemple d’usage : Dans la relecture d'un article de vulgarisation sur les LLM, le risque d'hallucination a été cité aux côtés de la fuite de données et des permissions excessives, comme un point correctement couvert par le texte.
Laisser un commentaire