Hallucinations de l'IA : comment KAIUS est conçu pour les réduire

En matière juridique, une hallucination — c'est-à-dire une affirmation produite par l'IA qui sonne vraie mais qui est inexacte, inventée ou mal sourcée — n'est pas une simple curiosité technique. C'est un risque déontologique, professionnel et, parfois, financier. Des cas largement médiatisés en 2023 et 2024, où des avocats ont déposé des conclusions citant de la jurisprudence inexistante, ont solidement installé la méfiance.

Chez KAIUS, nous partons d'un principe simple : un assistant juridique qui hallucine n'est pas utilisable. La fiabilité n'est pas une fonctionnalité parmi d'autres ; c'est la condition d'usage. Cet article explique comment notre architecture est conçue pour réduire ces erreurs et, surtout, pour les rendre visibles à l'avocat avant qu'elles ne quittent le cabinet.

D'où viennent les hallucinations ?

Un modèle de langage ne « connaît » pas le droit ; il produit du texte statistiquement plausible à partir de ses données d'entraînement. Trois causes principales expliquent les hallucinations en contexte juridique :

• Données d'entraînement obsolètes ou lacunaires sur certaines juridictions, notamment belges et luxembourgeoises.
• Absence de contexte : le modèle ne sait pas dans quel dossier il intervient, ni avec quelles pièces.
• Incitation implicite à « répondre quoi qu'il arrive » : un modèle généraliste préfère produire une réponse fluide qu'admettre qu'il ne sait pas.

Le RAG : ancrer chaque réponse dans une source réelle

KAIUS s'appuie sur une architecture RAG (Retrieval-Augmented Generation). Concrètement : avant de générer une réponse, le système va d'abord chercher les passages pertinents dans des sources vérifiées — pièces du dossier, jurisprudence indexée, codes en vigueur, contenus du cabinet. C'est seulement à partir de ces extraits que la réponse est composée.

Cette contrainte change tout : l'IA ne « réinvente » plus librement, elle reformule un matériau qui existe. Quand le matériau n'existe pas, elle est explicitement instruite de ne pas combler le vide.

Citations cliquables : la vérification en un clic

Chaque affirmation produite par l'assistant KAIUS qui repose sur une source (article, arrêt, pièce du dossier) est accompagnée d'une référence cliquable qui ouvre la source d'origine. L'avocat peut donc, en quelques secondes, vérifier que la phrase qu'il s'apprête à reprendre repose bien sur ce qui est annoncé.

Ce mécanisme rétablit une chaîne de responsabilité claire : l'IA propose, la source atteste, l'avocat décide. C'est cette traçabilité qui rend l'usage déontologiquement compatible avec les exigences professionnelles.

Garde-fous : refuser plutôt qu'inventer

L'assistant KAIUS est instruit pour préférer un « je ne sais pas » explicite plutôt qu'une réponse plausible mais non fondée. Lorsque la base documentaire n'apporte pas d'élément suffisant, l'interface l'indique clairement : « Aucune source pertinente trouvée pour cette question dans votre dossier ».

Cette posture est culturellement contre-intuitive pour un outil grand public, mais elle est essentielle en contexte professionnel. Une absence de réponse vaut mieux qu'une réponse fausse.

Périmètre restreint : moins, mais mieux

Plutôt que de viser l'universalité, KAIUS cible des cas d'usage juridiques précis : synthèse de pièces, rédaction de conclusions, recherche jurisprudentielle assistée, génération de courriers et de courriels. Chaque cas d'usage a son prompt, son périmètre, ses garde-fous et ses tests de non-régression.

Ce périmètre restreint réduit mécaniquement la surface d'hallucination : un système qui sait précisément ce qu'on attend de lui se trompe moins qu'un assistant générique invité à tout faire.

Supervision humaine : la dernière ligne

Aucun document produit par KAIUS ne sort du cabinet sans validation humaine. L'interface est conçue pour rendre la relecture rapide : surlignage des passages générés, indicateurs de niveau de confiance, signalements explicites des zones où l'IA s'est appuyée sur un seul extrait. L'objectif est de concentrer l'attention de l'avocat là où elle est nécessaire.

Nous l'écrivons clairement à nos utilisateurs : l'IA est un outil de productivité, pas un substitut à l'expertise. La responsabilité finale reste celle de l'avocat. Notre rôle est de lui donner les moyens de l'exercer rapidement et sereinement.

Les hallucinations résiduelles : que faire ?

Aucun système n'atteint zéro hallucination. Notre engagement est triple : transparence sur les limites, mise à jour continue des prompts et des bases, et boucle de feedback qui permet aux utilisateurs de signaler un cas suspect en un clic. Chaque signalement est traité et alimente les tests de non-régression.

Une IA juridique qui ne dit jamais « je ne sais pas » est dangereuse. Une IA qui le dit, et qui cite ses sources quand elle répond, devient un véritable assistant.

Pour aller plus loin

La fiabilité d'une IA juridique se mesure dans le temps et sur le terrain. Nous publions régulièrement nos évolutions, et tout utilisateur peut tester KAIUS gratuitement pendant 14 jours pour évaluer la qualité des réponses sur ses propres dossiers — c'est le seul test qui compte vraiment.