Les hallucinations
Vous savez ce qu’est une hallucination, où elle apparaît le plus et comment la neutraliser.
ZielÀ la fin de cette leçon, vous saurez reconnaître les situations propices aux hallucinations et les neutraliser par une recherche citée et une question non orientée.
On appelle hallucination une affirmation fausse présentée avec assurance par un modèle : une référence qui n’existe pas, un chiffre inventé, une citation attribuée à la mauvaise personne, un article de loi qui dit autre chose. Ce n’est pas un mensonge. C’est la conséquence directe du mécanisme de prédiction : quand le modèle ne sait pas, il produit quand même la suite la plus plausible.
Où elles apparaissent le plus
- Les références précises : titres d’articles, numéros de page, adresses web, articles de loi.
- Les détails rares : la date de fondation d’une petite entreprise, le nom d’un responsable local.
- Les sujets de niche, peu présents dans les textes d’entraînement.
- Les questions qui présupposent une réponse : « Quelle étude a prouvé que… » pousse le modèle à en trouver une.
Les hallucinations sont rares sur les sujets très documentés et sur les tâches de reformulation. Elles deviennent fréquentes dès qu’on demande au modèle un fait précis qu’il n’a pas sous les yeux.
Donne-moi cinq études qui prouvent que la microformation est plus efficace.
Cherche des études académiques qui comparent la microformation à des formats plus longs. Cite chaque étude avec un lien. Si les résultats sont mitigés, dis-le.
La recherche citée remplace la mémoire du modèle par des sources vérifiables, et la question n’impose plus la conclusion.
Comment Learnya les réduit
Dès qu’une information factuelle est en jeu, Learnya s’appuie sur des sources plutôt que sur la mémoire du modèle. Les recherches sur le web et dans la littérature académique sont citées, et un agent de vérification peut contrôler que chaque source dit bien ce qui lui est attribué. Pour vos documents, l’agent lit le fichier au lieu de s’en souvenir.
Ces mécanismes réduisent fortement le risque, sans l’annuler. Une source peut être mal résumée, ou une page elle-même erronée. C’est pourquoi ouvrir deux ou trois sources reste la meilleure habitude pour tout ce qui va être publié ou transmis.