IA
Hallucination
Aussi : hallucinations
En clair
Le modèle affirme un fait avec aplomb, dans un français impeccable, et ce fait n’existe pas. On parle d’hallucination. Ce n’est pas une panne occasionnelle : le modèle produit le texte le plus vraisemblable, et le vraisemblable n’est pas le vrai. Rien dans le ton ne distingue une réponse fondée d’une réponse inventée.
Concrètement
Une synthèse juridique cite un « article 42 bis » qui n’existe pas, sur le même ton assuré que le reste du document.
Pourquoi ça compte
Le danger n’est pas le texte, c’est la décision prise à partir de lui. Juger une réponse à sa fluidité revient à juger un contrat à sa mise en page.
Définition technique
Affirmation inventée ou non fondée produite par un modèle, présentée comme un fait.