Hallucination
Une hallucination est une information fausse ou inventée, présentée par une IA comme si elle était exacte.
Ce que cela veut dire
Elle vient du fonctionnement des modèles : ils produisent un texte vraisemblable, sans vérifier naturellement chaque fait. Citations, chiffres et références sont particulièrement à contrôler.
Fournir des documents sources, demander de citer les passages et prévoir une relecture humaine réduit le risque sans l’éliminer.
Un exemple concret
Un assistant peut citer une décision de justice qui n’existe pas. Il faut donc toujours retrouver la source avant de l’utiliser.
Termes liés
RAG
Le RAG consiste à rechercher des passages pertinents dans vos documents et à les transmettre au modèle pour qu’il réponde à partir d’eux.
Supervision humaine
La supervision humaine consiste à faire contrôler ou valider par une personne certaines décisions ou actions d’un système d’IA.
LLM
Un LLM est un modèle d’IA entraîné sur de très grands volumes de textes, capable de comprendre une demande et de générer une réponse écrite.
Vous cherchez par où commencer avec l’IA ? J’observe une tâche réelle et nous définissons un premier périmètre à contrôler.
