Een teamleider bij een verzekeraar krijgt van IT de vraag welke AI-tools haar team gebruikt. Ze antwoordt Copilot, want dat is de afspraak. Diezelfde middag ziet ze hoe een collega polisvoorwaarden samenvat in een browsertab die ze niet herkent, en ze weet niet of daar iets over is besloten.
Dat is de vraag waar AI-governance over gaat. Niet of de organisatie een AI-beleid heeft, want dat heeft ze. Wel of dat beleid iets zegt over de tab die openstaat.
AI-governance is het geheel van besluiten, afspraken en bewijs waarmee een organisatie verantwoord met AI omgaat. Voor de meeste organisaties gaat dat niet over het bouwen van modellen. Het gaat over het dagelijkse gebruik van bestaande AI-diensten door medewerkers: welke tools er echt worden gebruikt, wat daarover is besloten, of mensen dat besluit kennen op het moment dat het telt, en of je achteraf kunt laten zien dat het werkte.
#Waar komt het woord vandaan, en welk deel bedoelen we?
Wie "AI-governance" opzoekt, vindt vier vakgebieden die het woord elk voor hun eigen deel gebruiken.
Data scientists bedoelen modelgovernance: is het model gevalideerd, hoe gedraagt het zich bij nieuwe gegevens, zitten er vooroordelen in, wie mag een nieuwe versie uitrollen. Risk- en compliancemensen bedoelen een beheerskader met rollen, een risicoregister en een norm als ISO/IEC 42001. Securityteams bedoelen toegang, gegevensstromen en leveranciersbeoordeling. Juristen bedoelen de AI-verordening en de AVG.
Alle vier hebben gelijk, en alle vier zien iets over het hoofd. In de meeste organisaties bouwt niemand een model. Wat er wel gebeurt: een paar honderd mensen gebruiken ChatGPT, Copilot, Gemini, een vertaaltool en een transcriptietool, elke dag, meestal met goede bedoelingen en soms met klantgegevens. Dat gebruik is het grootste deel van de AI die er in de organisatie is, en het is het deel waar de vier vakgebieden het minst over zeggen.
Dat deel bedoelen we in dit artikel en in de rest van het onderwerp AI-governance: de governance van het dagelijkse gebruik.
#Welke vragen horen bij de governance van het dagelijkse gebruik?
Zes vragen, en de volgorde is niet toevallig.
- Welke AI-tools worden er gebruikt? Niet welke zijn aangevraagd of waarvoor licenties zijn gekocht, maar welke er worden geopend.
- Welke van die tools zijn toegestaan, en waarover is nog geen besluit genomen?
- Welke gevoelige gegevens komen tijdens het werk langs: klantnamen, BSN's, medische gegevens, contractbedragen?
- Hoe weten medewerkers wat de organisatie heeft besloten, op het moment dat ze een tool openen en niet alleen op de dag van de training?
- Is het goedgekeurde alternatief ook het alternatief dat mensen echt gebruiken?
- Kun je aantonen dat het beleid in de praktijk wordt toegepast, met cijfers en niet met een handtekening onder een document?
De eerste drie gaan over kijken, en bij de tweede daarvan valt het eigenlijke besluit. De vierde en vijfde gaan over helpen tijdens het werk. De zesde gaat over aantoonbaarheid. Wie de zes vragen kan beantwoorden, heeft governance; wie alleen een beleid heeft, kan meestal geen van de zes beantwoorden.
#Waarom is de volgorde niet willekeurig?
Omdat elke stap het materiaal levert voor de volgende.
Wie besluit voordat hij heeft gezien wat er in gebruik is, schrijft beleid over de tools van vorig jaar. Het beleid noemt ChatGPT en Copilot, en zwijgt over de vertaaltool waar de helft van de afdeling inmiddels mee werkt. Dat is niet nalatig, het is een gevolg van de volgorde.
Wie medewerkers wil helpen voordat er een besluit ligt, geeft meldingen waar niemand iets mee kan. "Let op, dit is een AI-tool" zonder te zeggen wat de organisatie ervan vindt, is ruis. Mensen klikken het weg en hebben gelijk.
Wie wil aantonen dat het beleid werkt zonder dat er een besluit per tool bestaat, heeft een telling en geen bewijs. Driehonderd bezoeken aan een tool zeggen niets zolang niemand heeft vastgelegd of die tool mocht. Waarom dat onderscheid voor een auditor zo zwaar weegt, lees je in het artikel over waarom een dashboard nog geen bewijs is.
En na het aantonen begint het kijken opnieuw, want er komen nieuwe tools bij. Daarom is governance geen project met een einddatum, maar een ritme. Het verklaart ook waarom een AI-beleid op papier zo vaak losraakt van de praktijk: het is één keer geschreven, en het gebruik liep door.
Eén ding: de status. Mag deze tool worden gebruikt, alleen onder voorwaarden of helemaal niet, of heeft de organisatie er nog niet over nagedacht? Dat laatste is een echte status, en het is de eerlijkste van de vier.
Twee dingen vallen op aan deze tabel. Ten eerste is het besluit van de organisatie, niet van een leverancier of een risicoscore. Een score zegt iets over gegevensgebruik, rechtsmacht en incidenten; of dat voor jouw organisatie acceptabel is, weet alleen jouw organisatie. Ten tweede is besluiten niet alleen afremmen. Eén omgeving aanwijzen als de voorkeursroute voor tekstwerk, en dat overal laten zien, is net zo goed een besluit als een tool niet toestaan.
Waar het toe leidt als een organisatie het besluit overslaat en meteen gaat blokkeren, lees je in het artikel over AI blokkeren zonder werkbaar alternatief. De korte versie: zonder goed alternatief zoeken mensen vaak een andere route, bijvoorbeeld via de eigen telefoon.
#Hoe ziet dat eruit in een gemeente?
Een gemeente heeft Copilot toegestaan. Het beleid is helder, de training is gegeven en de privacyfunctionaris kan het document laten zien. Dan kijkt de organisatie voor het eerst naar welke AI-diensten er vanuit de browser worden geopend.
Naast Copilot blijken Perplexity en ChatGPT in gebruik, plus drie gespecialiseerde tools: een transcriptietool voor vergaderingen, een vertaaltool en een dienst die beleidsnota's samenvat. Twee van die drie staan nergens in een register. Niemand heeft iets verkeerd gedaan: de transcriptietool scheelt een beleidsmedewerker twee uur per week, en niemand had haar gezegd dat ze die niet mocht gebruiken, want niemand wist dat hij bestond.
Dit is geen incident. Het laat zien dat een eenmalige inventarisatie snel verouderd is, en dat de interessante lijst niet "toegestaan" en "niet toegestaan" is, maar "nog geen besluit". Wat de gemeente daarna doet, is het eigenlijke werk: de vijf tools beoordelen, per tool een status kiezen, bij de transcriptietool nagaan of er persoonsgegevens in vergaderingen worden besproken, en waar Copilot het goede alternatief is, dat ook zeggen op het moment dat iemand de andere tool opent.
BeeSensible koppelt een catalogus van meer dan 1.000 beoordeelde AI-tools aan het gebruik dat in de organisatie wordt waargenomen: alleen het domein, hooguit één keer per dag per apparaat, zonder gebruikers-id en zonder pagina-inhoud. Een beheerder ziet welke tools nog geen besluit hebben en legt een besluit vast in het AI-register van de module AI Governance. Heeft de organisatie meldingen aangezet, dan verschijnt het besluit in de browser zodra iemand de tool opent, met het goedgekeurde alternatief als eerste knop. BeeSensible blokkeert niet uit zichzelf; alleen als de organisatie kiest voor "Medewerker kan niet doorgaan", gaat de medewerker niet verder naar die tool.
#Waar ligt de grens met toezicht op medewerkers?
De zes vragen hierboven gaan over tools. Geen van de zes heeft een naam nodig. "Deze dienst is deze maand vierhonderd keer geopend in de organisatie, en er is nog geen besluit over" beantwoordt de governancevraag volledig.
Zodra je dezelfde waarneming per persoon vastlegt, veranderen er drie dingen tegelijk. Het wordt een verwerking van persoonsgegevens onder de AVG, met een doel dat je vooraf moet kunnen noemen en een afweging of het niet met minder kan. De ondernemingsraad krijgt een rol, want de Wet op de ondernemingsraden geeft instemmingsrecht op voorzieningen die gericht zijn op het waarnemen van gedrag of prestaties van medewerkers. En medewerkers gaan zich anders gedragen: wie weet dat zijn gebruik per persoon zichtbaar is, verplaatst het naar een privéaccount, en je cijfers kloppen niet meer.
Dat laatste is geen ethisch argument maar een meetargument. Governance heeft betere cijfers nodig dan toezicht kan opleveren. Het technische verschil, dat in de kern één veld in een database is, staat uitgewerkt in ons artikel over AI-monitoring versus medewerkersmonitoring.
Er is één soort vraag die wel om een persoon gaat: "wie heeft dit gedaan" bij een concreet incident. Dat is een onderzoeksvraag met een eigen procedure en een eigen grondslag. Governance en incidentonderzoek door elkaar halen is de snelste manier om een gesprek met de OR vast te laten lopen.
#Wat valt er niet onder?
Het is geen modelvalidatie. Of een taalmodel dingen verzint, hoe goed het is in jouw vakgebied, of er vooroordelen in zitten: belangrijke vragen, maar vragen aan de aanbieder van het model, niet aan de organisatie die het via een browser gebruikt.
Het zijn geen biastests en geen conformiteitsbeoordeling. De AI-verordening legt die verplichtingen bij aanbieders van hoogrisicosystemen, en de gebruiker van zo'n systeem heeft eigen plichten. Een chatbot voor tekstwerk valt daar meestal niet onder, terwijl de AVG er onverkort op van toepassing is. Wat wel voor vrijwel elke organisatie geldt, is de zorgplicht voor AI-geletterdheid uit artikel 4: medewerkers die met AI werken, moeten genoeg weten om dat verantwoord te doen. Hoe de twee kaders naast elkaar liggen, lees je in ons artikel over wat de AI-verordening naast de AVG voor je bedrijf betekent.
En het is geen autonoom blokkeren. Een systeem dat zelf beslist welke tool dichtgaat, heeft de organisatie uit het besluit gehaald. Dan is er geen governance meer, alleen een instelling.
#Hoe toon je aan dat het beleid wordt toegepast?
Met dezelfde waarnemingen waarmee je begon, maar nu gekoppeld aan het besluit. Welk aandeel van het AI-gebruik loopt via tools die zijn toegestaan, en beweegt dat aandeel de goede kant op? Hoe vaak is een melding getoond bij een tool die niet is toegestaan, en hoe vaak koos iemand daarna het alternatief? Hoeveel tools met echt gebruik hebben nog geen besluit, en wordt dat getal kleiner?
Dat zijn cijfers op organisatieniveau, en ze beantwoorden maar een deel van wat een auditor vraagt. Of er een verwerkersovereenkomst is getekend, weet geen meting. Wat iemand op zijn telefoon doet, valt buiten beeld. Een eerlijk verantwoordingsoverzicht zet daar "niet onderbouwd" bij, en is juist daardoor geloofwaardig.
Zoek deze week één tool op waarvan je niet weet of er iets over is besloten, en neem dat besluit. Daarna weet je ook waarom het zo'n rustige vraag is: niet "wie gebruikt dit", maar "wat vinden wij hiervan, en weet iedereen dat op het moment dat het telt".
