AI is nu ingebed in juridisch onderzoek, opstellen en beoordeling. Het is echt nuttig — en het zal, met totale zekerheid, je jurisprudentie geven die niet bestaat en citaten die nooit zijn geschreven. Deze gids behandelt wat juridische AI hallucinaties zijn, waarom zelfs "gefundeerde" tools ze produceren, wat het bewijs daadwerkelijk zegt, en — het deel dat de meeste berichtgeving overslaat — een concrete workflow om jezelf te beschermen.
Wat juridische AI-hallucinaties zijn
Een hallucinatie is een zelfverzekerde, plausibel klinkende output die onjuist is, zonder intern signaal dat er iets mis is. In juridisch werk nemen ze een paar herkenbare vormen aan:
- Gefabriceerde zaken: volledig uitgevonden beslissingen met realistische namen en verslaggeverscitaten die niet overeenkomen met enige echte mening
- Onjuiste of verkeerd weergegeven statuten: werkelijke wettelijke secties geciteerd voor proposities die ze niet ondersteunen, of bepalingen onjuist samengevat
- Gefabriceerde citaten binnen echte citaten: de gevaarlijkste variant — een echte, correct geciteerde zaak met een citaat dat de rechtbank nooit daadwerkelijk heeft geschreven
Die derde categorie is de meest te vrezen. Een nepgeval wordt ontdekt op het moment dat je het opzoekt. Een gefabriceerde quote in een echte zaak doorstaat een routinematige cite-check — de verwijzing is geldig — en de fout verbergt zich in de taal die je niet hebt vergeleken met de bron.
Waarom ze gebeuren — zelfs met "gegronde" tools
Een taalmodel zoekt feiten niet op in een database; het genereert de meest plausibele voortzetting van tekst op basis van patronen in zijn training. Soms is de meest plausibel klinkende output fictie.
"Grounded" of retrieval-augmented (RAG) juridische tools proberen dit op te lossen door echte brondocumenten op te halen en het model instructies te geven om daaruit te antwoorden. Dit helpt echt — het vermindert volledig uitgevonden zaken aanzienlijk. Maar grounding is geen garantie:
Waar aarding nog steeds lekt
- •Het model kan een document dat het correct heeft opgehaald verkeerd citeren.
- •Het kan een echte quote aan een voorstel hechten dat de bron niet ondersteunt.
- •Ophalen kan de verkeerde passage naar boven halen, en het model citeert deze toch vol vertrouwen.
- •Het kan taal van meerdere bronnen combineren tot een enkele gefabriceerde "citaat"
Met andere woorden, grounding verandert de verdeling van fouten — minder valse gevallen, maar de overlevenden neigen naar de moeilijk te vangen citaten-in-echte-citaten soort.
Het bewijs
Dit is niet hypothetisch. Twee ankers en één tracker zijn het waard om te weten:
Mata v. Avianca (2023)
Het baanbrekende waarschuwingsverhaal. Advocaten dienden een federale brief in waarin meerdere rechterlijke beslissingen werden aangehaald die niet bestonden — ChatGPT had ze gefabriceerd, compleet met valse citaten. De rechtbank legde sancties op aan de advocaten. Het stelde, publiekelijk en kostbaar, vast dat niet-geverifieerde generatieve AI-output geen plaats heeft in een indiening.
Stanford RegLab / HAI (2024)
Een studie uit 2024 van het Stanford RegLab en het Institute for Human-Centered AI evalueerde toonaangevende, speciaal ontwikkelde, op feiten gebaseerde juridische AI-onderzoekstools en ontdekte dat ze nog steeds hallucinaties vertoonden bij een aanzienlijk deel van de vragen — gerapporteerd in ongeveer het 17–33% bereik, afhankelijk van de tool en de taak.
Bevestig voor publicatie de exacte percentages, de specifieke geëvalueerde tools en de precieze toeschrijving aan het primaire artikel. Citeer het eerlijk en toereikend — inflateer of rond het nooit af naar een marketinggetal.
De Charlotin-database (tracker)
Onderzoeker Damien Charlotin beheert een veelgeciteerde openbare database die rechtszaken bijhoudt waarin AI-geproduceerde citaten zijn betrokken. Het is het beste lopende overzicht van hoe vaak deze fouten de rechtbanken bereiken en hoe ver ze reizen voordat iemand ze opmerkt. We citeren het als een bron — het is de referentie om te raadplegen, niet iets om te reproduceren.
Hoe jezelf te beschermen: een verificatieworkflow
De meeste berichtgeving stopt bij "wees voorzichtig." Hier is het onderbediende deel — een concrete workflow die je daadwerkelijk kunt uitvoeren bij elke AI-ondersteunde onderzoekstaak:
Onafhankelijke cite-checks
Bevestig dat elke geciteerde zaak en wet bestaat in een gezaghebbende bron (de rapporteur, de code) — apart van de tool die het heeft geproduceerd. Laat de AI zijn eigen citaten niet verifiëren.
Letterlijke citaat verificatie
Haal de primaire bron op en lees elke quote in context. Vergelijk de geciteerde woorden letter voor letter met de mening. Een echte citaat met een nepquote is de fout die zich verbergt.
Voorstel controle
Bevestig dat de bron daadwerkelijk het punt ondersteunt waarvoor deze is geciteerd. Een echte quote kan worden gekoppeld aan een bewering die deze niet onderbouwt.
Cross-model vergelijking
Stel dezelfde vraag aan meerdere onafhankelijke AI-modellen. Wanneer er één een geval of citaat produceert dat de anderen niet kunnen reproduceren — of dat de anderen als ongefundeerd beoordelen — beschouw die onenigheid dan als een teken om verder te onderzoeken.
Dien nooit ongeverifieerde output in
Geen AI-resultaat komt in een brief, memo of archivering totdat een mens de primaire bronnen heeft geverifieerd. Gegrond ≠ geverifieerd.
Waarom cross-model vergelijking zijn plaats in de workflow verdient
Een enkel model kan zichzelf niet betrouwbaar controleren — als het wordt gevraagd "ben je zeker?", herhaalt het meestal dezelfde fout. Onafhankelijke modellen falen op verschillende manieren: ze hebben verschillende trainingsdata en, in gegronde opstellingen, verschillende opvragingen. Een gefabriceerde zaak of verkeerde quote die één model produceert, wordt meestal niet door de anderen gereproduceerd, waardoor het opvalt als een claim met lage consensus. Dat is je signaal om naar de primaire bron te gaan. Consensus tussen modellen verhoogt je vertrouwen dat iets echt is — het bewijst het niet, en het vervangt nooit het lezen van de mening.
Het kader van professionele verantwoordelijkheid
Dit is niet alleen goede praktijk — het sluit aan bij de kernverantwoordelijkheden van de professional. De plicht tot bekwaamheid omvat steeds meer het begrijpen van de tools die je gebruikt en hun faalmodi; een advocaat die niet weet dat gegronde AI nog steeds citaten hallucineert, mist iets essentieels over de tool. De plicht tot openhartigheid tegenover de rechtbank betekent dat je verantwoordelijk bent voor de nauwkeurigheid van wat je indient — punt. Een AI-tool kan die plicht niet voor jou vervullen, en "de software heeft het gegenereerd" was geen verdediging in de gesanctioneerde zaken.
- Behandel AI-output als een onderzoeksaanwijzing, nooit als een citaat van record.
- De persoon die de indiening ondertekent, bezit elke zaak en elk citaat erin.
- Documenteer je verificatiestappen — het is zowel een goede praktijk als een bewijs van zorgvuldigheid
Goed gebruikt — met onafhankelijke verificatie en cross-model vergelijking ingebouwd in de workflow — maakt AI juridisch onderzoek sneller en helpt het om de claims naar boven te halen die een tweede blik waard zijn. Gebruikt op basis van vertrouwen, zal het uiteindelijk een gefabriceerde quote in uw brief plaatsen. Het verschil is de workflow, en de workflow is aan u om te beheren.
Veelgestelde Vragen
Wat zijn juridische AI-hallucinaties?
Valse zaken, verkeerde statuten en gefabriceerde citaten verstopt in echte citaten — zelfverzekerde output van juridische AI die niet waar is.
Doen "gegronde" juridische AI-tools nog steeds hallucineren?
Ja. De post toont aan dat hallucinaties aanhouden, zelfs in gegronde tools, en verwijst naar gedocumenteerd bewijs, waaronder Mata v. Avianca en een Stanford RegLab-studie uit 2024.
Hoe bescherm je jezelf tegen juridische AI-hallucinaties?
Met een verificatieworkflow: onafhankelijke citeercontroles, verificatie van letterlijke citaten, vergelijking tussen modellen en nooit ongeverifieerde output indienen — uw plicht tot openheid wordt niet overgedragen aan de tool.