Hallucination (IA)

Une hallucination est une réponse générée par un modèle de langage qui semble parfaitement crédible et est pourtant fausse : un prix inventé, une date de disponibilité imaginée, une zone d'intervention affirmée avec aplomb. Ce n'est pas un bug au sens propre : le modèle ne « sait » rien, il prédit la suite la plus plausible d'un texte — et la plausibilité n'est pas la vérité. Plus la question est pointue, plus le risque est élevé.

Dans un contexte d'entreprise, l'enjeu est frontal : une IA qui promet un dépannage sous 24 h alors que vous êtes complet jusqu'à la semaine prochaine crée un client furieux, pas un client conquis. Les protections sont connues et se combinent : base de connaissances fermée qui borne les réponses possibles, seuils de confiance sous lesquels l'agent n'affirme plus, et escalade humaine sur tout sujet sensible. Une IA d'accueil sans ces garde-fous n'est pas un assistant — c'est un risque.