DÉFINITION
Quand un modèle d’IA affirme avec aplomb une information fausse ou inventée. Pour vous aider à la repérer, le chat de Clivio répond à partir d’un document précis, cite ses sources et surligne le passage dans le PDF, que vous vérifiez d’un coup d’œil. Les documents venus de l’extérieur attendent aussi votre accord avant d’être classés.
Pourquoi une IA hallucine
Un modèle de langage produit le texte le plus probable, pas le texte vrai. Il ne consulte pas une base de faits. Il prolonge une phrase mot après mot, à partir de ce qu’il a appris. Quand l’information lui manque, ou qu’une question l’oriente, il peut combler le vide avec une réponse plausible et fausse, sur le même ton assuré qu’une réponse juste.
Le risque grandit quand le modèle répond de mémoire, sur un détail précis comme un chiffre, une date ou une référence. Il diminue quand on le fait travailler sur un texte fourni, puis qu’on lui demande d’indiquer d’où vient sa réponse.
À quoi elle ressemble sur un document
Sur un document, l’hallucination prend souvent la forme d’un détail inventé ou déplacé. Vous demandez la durée du préavis d’un bail, et la réponse annonce trois mois alors que le contrat en prévoit un. Ou bien une facture est attribuée au mauvais fournisseur, parce que deux noms se ressemblent. Une photo floue ou une mise en page inhabituelle augmente le risque d’erreur.
Comment vérifier une réponse
La meilleure parade est de remonter au passage d’origine. Dans Clivio, posez votre question dans le chat d’un document. La réponse cite la page et le passage dont elle vient, surligné dans le PDF, et vous comparez en quelques secondes. Pour un montant ou une date qui engage, relisez toujours le document lui-même.
Gardez aussi la main sur le classement. Ce qui arrive de l’extérieur attend votre accord dans « À classer », et si l’analyse se trompe, vous corrigez le titre, le type, la date ou les tags. Le détail est sur la page Documents.
Questions fréquentes
Peut-on empêcher une IA d’halluciner ?
Pas complètement. On réduit le risque en faisant répondre l’IA à partir d’un document précis, en lui faisant citer ses sources, puis en vérifiant le passage cité.
L’IA de Clivio peut-elle se tromper ?
Oui, surtout sur une photo floue ou une mise en page inhabituelle. Vous pouvez corriger le titre, le type, la date et les tags, ou relancer l’analyse, et le chat cite le passage d’où vient chaque réponse.