Supervision humaine
human in the loop
La supervision humaine consiste à faire contrôler ou valider par une personne certaines décisions ou actions d’un système d’IA.
Ce que cela veut dire
Elle est essentielle lorsque l’erreur peut avoir des conséquences importantes. Encore faut-il donner à cette personne le temps et les moyens de vérifier réellement.
On choisit le niveau selon le risque : relire chaque réponse, contrôler un échantillon ou seulement les cas signalés.
Un exemple concret
Une IA peut préparer une facture ou une réponse juridique, mais une personne valide avant toute transmission.
Termes liés
Agent IA
Un agent IA reçoit un objectif et enchaîne plusieurs étapes, en utilisant des outils, pour le mener à bien.
Hallucination
Une hallucination est une information fausse ou inventée, présentée par une IA comme si elle était exacte.
AI Act
L’AI Act est le règlement européen qui encadre les systèmes d’IA selon le niveau de risque qu’ils présentent.
Vous cherchez par où commencer avec l’IA ? J’observe une tâche réelle et nous définissons un premier périmètre à contrôler.
