Biais
Une tendance de l'IA à favoriser ou défavoriser systématiquement certaines réponses, personnes ou points de vue.
En bref
- Une tendance de l'IA à favoriser ou défavoriser systématiquement certaines réponses, personnes ou points de vue.
- On dit aussi : biais algorithmique.
Pratiquer en formation : L'IA dans mon métier
Définition
Un modèle apprend à partir de textes et d'images produits par des humains, avec leurs déséquilibres. Il peut les reproduire : métiers associés à un genre, stéréotypes culturels, points de vue dominants.
Le biais peut aussi venir de la demande : une question orientée appelle une réponse orientée.
Au travail
Une offre d'emploi rédigée par l'IA qui n'emploie que le masculin pour un poste technique, ou un tri de CV qui valorise un parcours type.
À surveiller
Relisez avec cette question en tête : « cette réponse écarte-t-elle quelqu'un pour une mauvaise raison ? »
Voir aussi
- Vérification des faits
- Le contrôle, par vous, de ce que l'IA affirme avant de l'utiliser ou de l'envoyer.
- AI Act
- Le règlement européen qui encadre les systèmes d'intelligence artificielle selon leur niveau de risque.
- Hallucination
- Une réponse fausse donnée avec assurance par une IA : un chiffre, une source, un nom ou une règle qui n'existe pas.
Les métiers où ce mot compte
Le glossaire
Questions fréquentes
Que veut dire « Biais » en intelligence artificielle ?
Une tendance de l'IA à favoriser ou défavoriser systématiquement certaines réponses, personnes ou points de vue.