Dinsdagochtend, een verzekeraar. Drie collega's op dezelfde afdeling openen dezelfde chatbot. De eerste laat een stroeve zin uit een nieuwsbrief herschrijven. De tweede plakt een klachtmail erin om er een nette reactie op te laten maken; onderaan de mail staan een naam, een polisnummer en een IBAN. De derde zit in de trein en vat op haar telefoon een intern rapport samen, via het gratis account dat ze thuis ook gebruikt.
Dezelfde tool, drie keer een ander risico. Niet omdat de chatbot anders werkt voor elk van hen, maar omdat het risico voor het grootste deel niet in de tool zit. Het zit in wat erin gaat, onder welk account, en in wat er daarna met het antwoord gebeurt.
Wat bepaalt het risico als de tool dezelfde is?
Een AI-tool heeft eigenschappen die vastliggen: waar de leverancier verwerkt, of hij op invoer traint, hoe lang hij gesprekken bewaart. Die eigenschappen bepalen een deel van het risico, en de organisatie beoordeelt ze één keer per tool. Hoe dat gaat, staat in hoe beoordeel je het risico van een AI-tool.
De rest wordt bepaald op het moment van gebruik, en daar zijn drie variabelen. Wat je in de prompt zet: een algemene vraag of een klantdossier. Onder welk account je werkt: het zakelijke account dat de organisatie heeft ingericht, of een gratis account dat er al stond. En wat je met het antwoord doet: nalezen en aanpassen, of doorsturen zoals het kwam. Elk van die drie kan het risico van een tool met een keurige beoordeling alsnog hoog maken.
Drie collega's, dezelfde tool
| Wie | Wat gaat erin | Welk account | Wat gebeurt er met het antwoord | Risico |
|---|---|---|---|---|
| Collega 1: een zin herschrijven | Een zin zonder persoonsgegevens | Zakelijke licentie van de afdeling | Wordt nagelezen en aangepast | Laag |
| Collega 2: een klacht beantwoorden | Naam, polisnummer, IBAN van een klant | Zakelijke licentie van de afdeling | Gaat na een snelle blik naar de klant | Persoonsgegevens verwerkt die de taak niet nodig had |
| Collega 3: een rapport samenvatten | Een intern rapport | Gratis account op een privételefoon | Wordt in een mail geplakt | Vertrouwelijke tekst onder consumentenvoorwaarden, buiten het zicht van de organisatie |
De eerste collega gebruikt de tool zoals de organisatie hem heeft beoordeeld. De tweede gebruikt hetzelfde account, maar geeft de tool gegevens die er niet in hoefden: het antwoord op een klacht wordt niet beter van het IBAN. De derde heeft de tool eigenlijk verwisseld voor een andere, want een gratis account op een privételefoon is een andere verwerking dan de licentie op kantoor, ook al staat er hetzelfde logo boven.
Wat heb je zelf in de hand?
Twee van de drie variabelen, en dat is meer dan het vaak voelt.
Wat erin gaat. De taak heeft bijna nooit de herleidbare gegevens nodig. Een klacht beantwoorden kan met "de klant" in plaats van een naam en zonder polisnummer. Een verslag samenvatten kan zonder de namen van de aanwezigen. De toets die je jezelf stelt: zou ik deze tekst ook niet naar een onbekende buiten de organisatie mailen, dan hoort hij ook niet in een chatbot. Wat er wel en niet in kan, met de lijst erbij, staat in wat mag je wel en niet in een AI-prompt zetten.
Wat je met het antwoord doet. Een taalmodel maakt een aannemelijke tekst, geen gecontroleerde. Een datum die niet klopt, een voorwaarde die in de polis anders staat, een toon die niet bij de klant past: het model merkt het niet, jij wel, mits je leest voordat je verstuurt. Het antwoord is een concept. Dat geldt bij de eerste collega net zo goed als bij de tweede, alleen zijn de gevolgen van niet lezen bij een klantbrief groter.
En dan de derde variabele, het account. Die ligt maar half bij jou. Je kunt kiezen om het account te gebruiken dat de organisatie heeft ingericht in plaats van het gratis account dat al open stond. Maar of dat zakelijke account er is, en voor welke tool, is een besluit van de organisatie. Waarom dat besluit meer uitmaakt dan de keuze tussen merken, staat in gratis versus zakelijk AI-account.
Wat heb je niet in de hand?
De voorwaarden van de leverancier, de vraag of er een verwerkersovereenkomst is, en het besluit welke tools de organisatie toestaat, beperkt toestaat of liever niet ziet. Dat is werk van de organisatie, en het is geen verwijt aan de derde collega dat ze in de trein het account gebruikte dat ze had. Als niemand haar heeft verteld welke tool wel mag en waar ze dat kan nakijken, is het gratis account de logische keuze.
Dat is ook waarom een lijst met toegestane tools in een mail van maart in september weinig meer doet. Het besluit moet er zijn op het moment dat je de tool opent, en het moet het alternatief noemen. "Niet deze, wel die" is een instructie waar je iets mee kunt. "Niet deze" alleen is het einde van het gesprek, en dan gaat het werk verder op de telefoon.
Hoe ging dat verder bij de verzekeraar?
De afdeling had Copilot toegestaan via de Microsoft-licentie. Bij een inventarisatie bleken ook ChatGPT, Perplexity en drie gespecialiseerde tools in gebruik, waarvan twee nog niet in het register stonden. Geen incident: het laat zien dat een lijst die één keer is gemaakt snel achterloopt op wat mensen in het werk zijn gaan gebruiken.
De organisatie nam per tool een besluit en zorgde dat het zichtbaar werd op het werkmoment. Wie nu de gratis chatbot opent, ziet dat daarover is besloten en welke tool het alternatief is. Wie in een tekstvak een IBAN of een naam typt, ziet daar een markering op staan voordat het bericht weg is, en kiest zelf: maskeren, verwijderen of laten staan. De collega blijft degene die handelt; de organisatie zorgt dat het besluit en het risico op dat moment zichtbaar zijn.
