Hallucination
Une réponse fausse donnée avec assurance par une IA : un chiffre, une source, un nom ou une règle qui n'existe pas.
En bref
- Une réponse fausse donnée avec assurance par une IA : un chiffre, une source, un nom ou une règle qui n'existe pas.
- On dit aussi : information inventée, confabulation.
Pratiquer en formation : L'IA dans mon métier
Définition
Comme le modèle prédit le texte le plus plausible, il peut produire une information qui a l'air juste sans l'être. Il ne ment pas : il complète un texte, sans vérifier.
Les hallucinations sont plus fréquentes sur les sujets précis, récents ou peu documentés, et quand la demande pousse l'IA à répondre coûte que coûte.
Au travail
Une IA qui cite un article de loi au mauvais numéro ou une jurisprudence introuvable : la réponse a l'air sérieuse, elle est fausse.
À surveiller
Autorisez l'IA à dire qu'elle ne sait pas, demandez-lui ses sources, et vérifiez vous-même chiffres, noms, dates et règles.
Voir aussi
- Vérification des faits
- Le contrôle, par vous, de ce que l'IA affirme avant de l'utiliser ou de l'envoyer.
- RAG
- Une technique qui fait chercher à l'IA les passages utiles dans vos documents avant qu'elle ne réponde.
- Grand modèle de langage
- Le programme au cœur des IA qui écrivent : il prédit, mot après mot, la suite la plus probable d'un texte.
Les métiers où ce mot compte
Le glossaire
Questions fréquentes
Que veut dire « Hallucination » en intelligence artificielle ?
Une réponse fausse donnée avec assurance par une IA : un chiffre, une source, un nom ou une règle qui n'existe pas.