IA-hallucinaties: hoe KAIUS ontworpen is om ze te verminderen

Op juridisch vlak is een hallucinatie — een bewering geproduceerd door de IA die waar klinkt maar onjuist, verzonnen of slecht onderbouwd is — geen louter technische rariteit. Het is een deontologisch, professioneel en soms financieel risico. Breed uitgemeten gevallen in 2023 en 2024, waarbij advocaten conclusies indienden die citeerden uit niet-bestaande rechtspraak, hebben het wantrouwen stevig geworteld.

Bij KAIUS vertrekken we van een simpel principe: een juridisch assistent die hallucineert, is onbruikbaar. Betrouwbaarheid is geen functie zoals alle andere; het is de voorwaarde voor gebruik. Dit artikel legt uit hoe onze architectuur is ontworpen om deze fouten te verminderen en, bovenal, om ze zichtbaar te maken voor de advocaat voordat ze het kantoor verlaten.

Waar komen hallucinaties vandaan?

Een taalmodel «kent» het recht niet; het produceert tekst die statistisch aannemelijk is op basis van zijn trainingsgegevens. Drie hoofdoorzaken verklaren hallucinaties in een juridische context:

• Verouderde of onvolledige trainingsgegevens over bepaalde jurisdicties, met name de Belgische en Luxemburgse.
• Gebrek aan context: het model weet niet in welk dossier het tussenbeide komt, noch met welke stukken.
• Impliciete aanmoediging om «hoe dan ook te antwoorden»: een algemeen model geeft de voorkeur aan een vloeiend antwoord boven het toegeven dat het het niet weet.

RAG: elk antwoord verankeren in een echte bron

KAIUS steunt op een RAG-architectuur (Retrieval-Augmented Generation). Concreet: voordat het systeem een antwoord genereert, zoekt het eerst naar relevante passages in geverifieerde bronnen — dossierstukken, geïndexeerde rechtspraak, geldende wetboeken, kantoorinhoud. Alleen op basis van deze fragmenten wordt het antwoord samengesteld.

Deze beperking verandert alles: de IA «vindt niet langer vrijuit uit», maar herformuleert materiaal dat bestaat. Wanneer het materiaal niet bestaat, krijgt zij expliciet de instructie om de leegte niet op te vullen.

Klikbare citaten: verificatie in één klik

Elke bewering geproduceerd door de KAIUS-assistent die rust op een bron (artikel, arrest, dossierstuk) gaat vergezeld van een klikbare referentie die de originele bron opent. De advocaat kan dus binnen enkele seconden verifiëren of de zin die hij wil overnemen inderdaad gebaseerd is op wat wordt beweerd.

Dit mechanisme herstelt een duidelijke verantwoordelijkheidsketen: de IA stelt voor, de bron bevestigt, de advocaat beslist. Het is deze traceerbaarheid die het gebruik deontologisch compatibel maakt met de professionele vereisten.

Waarborgen: weigeren in plaats van verzinnen

De KAIUS-assistent is getraind om de voorkeur te geven aan een expliciet «ik weet het niet» boven een aannemelijk maar ongefundeerd antwoord. Wanneer de documentaire basis onvoldoende elementen aanreikt, geeft de interface dit duidelijk aan: «Geen relevante bronnen gevonden voor deze vraag in uw dossier».

Deze houding is cultureel tegenintuïtief voor een consumententool, maar essentieel in een professionele context. Geen antwoord is beter dan een fout antwoord.

Beperkte reikwijdte: minder, maar beter

In plaats van te streven naar universaliteit, richt KAIUS zich op specifieke juridische use cases: synthese van stukken, opstellen van conclusies, ondersteund onderzoek naar rechtspraak, genereren van brieven en e-mails. Elke use case heeft zijn eigen prompt, reikwijdte, waarborgen en regressietests.

Deze beperkte reikwijdte vermindert mechanisch het oppervlak voor hallucinaties: een systeem dat precies weet wat er van hem verwacht wordt, maakt minder fouten dan een generieke assistent die wordt uitgenodigd om alles te doen.

Menselijk toezicht: de laatste verdedigingslinie

Geen enkel door KAIUS geproduceerd document verlaat het kantoor zonder menselijke validatie. De interface is ontworpen om het nalezen te versnellen: markering van gegenereerde passages, indicatoren van het betrouwbaarheidsniveau, expliciete meldingen van zones waar de IA op slechts één fragment steunde. Het doel is de aandacht van de advocaat te concentreren waar dat nodig is.

We schrijven het duidelijk aan onze gebruikers: IA is een productiviteitstool, geen vervanging voor expertise. De uiteindelijke verantwoordelijkheid blijft bij de advocaat. Onze rol is om hem de middelen te geven om dit snel en met een gerust hart uit te oefenen.

Residuele hallucinaties: wat te doen?

Geen enkel systeem bereikt nul hallucinaties. Onze toezegging is drieledig: transparantie over de limieten, voortdurende updates van prompts en databases, en een feedbackloop waarmee gebruikers een verdacht geval in één klik kunnen melden. Elke melding wordt verwerkt en voedt de regressietests.

Een juridische IA die nooit «ik weet het niet» zegt, is gevaarlijk. Een IA die dat wel zegt, en zijn bronnen citeert wanneer hij antwoordt, wordt een echte assistent.

Om verder te gaan

De betrouwbaarheid van een juridische IA wordt gemeten in de tijd en op het terrein. Wij publiceren regelmatig onze ontwikkelingen, en elke gebruiker kan KAIUS 14 dagen lang gratis testen om de kwaliteit van de antwoorden op zijn eigen dossiers te beoordelen — dat is de enige test die echt telt.