Een recruiter vraagt een AI-assistent om een korte achtergrondschets van een kandidaat voor het gesprek van morgen. Ze krijgt vier vlot geschreven alinea's terug, met een studie, twee vorige werkgevers en een jaartal. Drie van die vier feiten kloppen. Het vierde is verzonnen, en het staat er precies zo stellig bij als de andere drie.
Om te begrijpen waarom, moet je weten wat er gebeurt als een model antwoordt. Het is namelijk niet opzoeken.
Het model voorspelt, het raadpleegt niet
Een taalmodel heeft geen database met feiten waarin het kijkt. Het heeft tijdens de training patronen geleerd uit enorme hoeveelheden tekst, en die patronen zitten in de vorm van kansen: gegeven deze woorden, wat is het waarschijnlijkste volgende stukje tekst?
Zo wordt elk antwoord opgebouwd. Woord voor woord, telkens de vraag "wat past hier het beste".
Als de patronen sterk zijn (omdat iets duizenden keren op dezelfde manier in de trainingstekst stond), rolt er meestal een juist antwoord uit. Als de patronen zwak of tegenstrijdig zijn, rolt er iets uit dat past bij de vorm van het antwoord zonder dat de inhoud klopt.
Dit is de kern: beide antwoorden komen uit hetzelfde proces. Er is geen apart mechanisme voor "dit weet ik zeker" en "dit gok ik". Het model kan zelf het verschil niet zien, dus het kan het je ook niet melden.
Waarom het zo zeker klinkt
De stelligheid is ook een patroon. Encyclopedieën, handboeken en nieuwsberichten schrijven in stellige zinnen, en daar is het model op getraind. Dus schrijft het in stellige zinnen, ongeacht of de inhoud klopt.
Er komt iets bij. Modellen worden na de training bijgestuurd op basis van menselijke voorkeur, en mensen beoordelen een behulpzaam, vloeiend antwoord doorgaans hoger dan "dat weet ik niet". Die voorkeur zit in het resultaat. Toegeven dat het antwoord ontbreekt, is aangeleerd gedrag dat het moet opnemen tegen de neiging om te helpen.
Dus: hoe zeker een antwoord klinkt, zegt niets over hoe betrouwbaar het is. Dat is een van de moeilijkste dingen om af te leren, omdat het bij mensen wél een signaal is.
Waar het vaakst misgaat
In de praktijk zitten de verzinsels op voorspelbare plekken:
- Namen, datums en getallen. Precieze gegevens over specifieke mensen zijn zelden sterk vertegenwoordigd in de trainingstekst.
- Bronvermeldingen. Een bestaande auteur, een plausibele titel, een verzonnen artikel. De vorm van een bronvermelding is een makkelijk patroon.
- Wet- en regelgeving. Artikelnummers en overwegingen zijn perfect na te bootsen zonder dat het klopt.
- Recente gebeurtenissen. Alles na de trainingsdatum, tenzij de tool daadwerkelijk zoekt.
- Alles wat combineert. Twee losse feiten die kloppen, aan elkaar geplakt tot een verband dat niet bestaat.
Tools die eerst zoeken en daarna samenvatten, doen het hier beter, want dan is er een bron om naar te wijzen. Maar ook dan geldt: klik de bron aan. Een link die er goed uitziet is nog geen link die iets onderbouwt.
En dan de privacykant
Hier wordt het meer dan een kwaliteitsprobleem.
Als een model iets onjuists beweert over een herkenbaar persoon, is dat een verwerking van persoonsgegevens die niet klopt. Artikel 5 van de AVG eist dat persoonsgegevens juist zijn en dat onjuiste gegevens worden gewist of gerectificeerd. Artikel 16 geeft de betrokkene het recht om dat te eisen.
Dat is niet theoretisch. De privacyorganisatie noyb diende hierover klachten in tegen OpenAI, waaronder een zaak waarin ChatGPT beweerde dat een Noorse man zijn kinderen had vermoord. Eerder was er al een klacht over een verzonnen geboortedatum, waarbij het pijnlijke punt was dat de aanbieder het onjuiste gegeven niet gericht kon corrigeren.
Dat laatste is het structurele probleem. Een feit in een database corrigeer je door de rij aan te passen. Een patroon in een model corrigeer je niet zomaar: je kunt de uitvoer onderdrukken, je kunt bijsturen, maar het "weghalen" van één onjuist gegeven is iets heel anders dan een rectificatie zoals de AVG die bedoelt.
Wat dit betekent voor werk
Twee dingen, en het tweede wordt vaker vergeten.
Controleer wat je overneemt. Elk getal, elke datum, elke naam, elk wetsartikel. Niet omdat het model onbetrouwbaar is in alles, maar omdat je aan het antwoord niet kunt zien welk deel je moet nakijken.
Let op wat je vastlegt. Dit is de kant die zelden wordt genoemd. Als een AI-antwoord over een sollicitant, een medewerker of een klant ongecontroleerd in een dossier belandt, dan is het verzinsel niet langer een uitvoer van een externe dienst. Het is dan jouw vastgelegde persoonsgegeven, in jouw systeem, onder jouw verantwoordelijkheid. De rectificatieplicht ligt vanaf dat moment bij jou.
Wie dat eenmaal ziet, gebruikt AI anders bij mensen dan bij teksten. Voor het herschrijven van een alinea is een vloeiend antwoord genoeg. Voor iets dat over een persoon gaat en ergens wordt opgeslagen, is de vraag niet of het goed klinkt, maar of iemand het heeft nagekeken voordat het bleef staan.
