Biais
Un biais est une distorsion systématique des résultats d’une IA, souvent héritée des données ou de la conception du système.
Ce que cela veut dire
Il peut désavantager certains groupes ou renforcer des stéréotypes, y compris sans intention. Il est particulièrement sensible dans le recrutement, le crédit ou l’accès à un service.
Il faut tester le système sur des cas variés, documenter ses limites et ne pas lui déléguer aveuglément ce type de décision.
Un exemple concret
Un tri de candidatures appuyé sur un historique déséquilibré peut reproduire ce déséquilibre dans ses recommandations.
Termes liés
Apprentissage automatique
L’apprentissage automatique permet à un système d’identifier des régularités dans des données pour faire des prédictions ou des classements.
Supervision humaine
La supervision humaine consiste à faire contrôler ou valider par une personne certaines décisions ou actions d’un système d’IA.
AI Act
L’AI Act est le règlement européen qui encadre les systèmes d’IA selon le niveau de risque qu’ils présentent.
Vous cherchez par où commencer avec l’IA ? J’observe une tâche réelle et nous définissons un premier périmètre à contrôler.
