Een beleidsadviseur moet voor het college een notitie schrijven over een nieuwe subsidieregeling en wil weten hoe vijf andere gemeenten dat hebben aangepakt. Copilot geeft een net antwoord zonder bronnen. In een tweede tabblad opent ze Perplexity, krijgt vijf links en werkt daarmee verder. Bij ICT staat Copilot ondertussen te boek als "de AI-tool van de gemeente".
Zo gaat het bij vrijwel elke gemeente die Copilot heeft uitgerold. De uitrol heeft één tool geregeld. De andere tools zijn niet verdwenen; ze draaien ernaast, meestal op een gratis account, en over geen ervan is iets besloten. Dat is shadow AI, en het is geen lijst van overtredingen. Het is een lijst van besluiten die nog genomen moeten worden.
Wat draait er naast Copilot?
De lijst verschilt per gemeente, maar een aantal tools komt bijna overal terug. Ze zijn er niet voor niets: voor die klus is Copilot op dat moment niet de vanzelfsprekende keuze. Hoe dat komt, lees je in het artikel over waarom medewerkers naast Copilot toch andere AI-tools gebruiken.
| Wat er wordt geopend | Waarom mensen het kiezen | Wat de gemeente ervan moet weten |
|---|---|---|
| Perplexity of een andere AI-zoekmachine | Onderzoek met bronnen, voor een raadsvraag of een beleidsnotitie | Gratis of zakelijk account, en wat er in de zoekvraag staat |
| ChatGPT op een gratis account | Herschrijven in begrijpelijke taal, samenvatten, een mail | Of de invoer voor training wordt gebruikt, en of er een BSN in de tekst zat |
| Transcriptie van vergaderingen | Notulen van een teamoverleg of een raadscommissie zonder typwerk | Waar de opname wordt verwerkt, en wie er in het gesprek werd genoemd |
| Vertaaldiensten | Balie en wijkteams, een brief in het Arabisch of Pools | Of de brief persoonsgegevens bevatte |
| AI-functies in bestaande software | De tekstverwerker of het zaaksysteem kreeg een assistent bij een update | Geen nieuw domein, geen nieuw inkoopbesluit, wel een nieuwe verwerking |
De laatste rij is de lastigste. Er is niets nieuws geïnstalleerd, dus niemand heeft iets aangevraagd, en toch gaat er nu tekst naar een model waar die vorig jaar niet heen ging.
Waarom weegt dit bij een gemeente zwaarder?
Omdat de tekst die wordt geplakt zelden neutraal is. Een brief over een uitkering bevat een BSN. Een gespreksverslag van een wijkteam beschrijft een gezinssituatie. Een bezwaarschrift bevat een naam, een adres en het verhaal erachter. Op een gewone werkdag bij een gemeente gaat het voortdurend over persoonsgegevens, en een deel daarvan valt onder de bijzondere persoonsgegevens of is zeer gevoelig.
Die gegevens in een gratis account zetten is iets anders dan ze invoeren in een omgeving die de gemeente heeft ingericht. Bij een persoonlijk account kan de invoer worden gebruikt om het model te verbeteren, tenzij de gebruiker dat zelf uitzet, en er is geen verwerkersovereenkomst. Wat het verschil tussen de accounttypes is, lees je in gratis versus zakelijk AI-account. De Autoriteit Persoonsgegevens ontving meerdere datalekmeldingen waarbij medewerkers persoonsgegevens in een AI-chatbot hadden gezet, en raadt organisaties aan duidelijk af te spreken of het mag, en zo ja met welke gegevens.
De BIO vraagt van een gemeente dat ze gegevens classificeert, leveranciers beheert en werkt aan bewustwording bij medewerkers. Een AI-dienst waarover niets is besloten, valt buiten alle drie. Hoe de BIO zich tot AI-gebruik verhoudt, staat in ons artikel over AI en privacy onder de BIO en NEN 7510.
Waarom loopt een inventarisatie per kwartaal achter?
Neem een gemeente die Copilot heeft toegestaan. In maart doet de CISO een uitvraag bij alle afdelingen. Naast Copilot blijken Perplexity, ChatGPT en drie gespecialiseerde tools in gebruik: een vertaaldienst bij de balie, een transcriptietool in het sociaal domein en een AI-functie in de tekstverwerker. Twee daarvan staan nog nergens in het register. Dat is geen incident. Het laat zien dat het register de praktijk niet bijhoudt.
In juni is de lijst van maart alweer achterhaald. Het zaaksysteem heeft bij een update een samenvattingsfunctie gekregen. Een team is overgestapt op een andere transcriptietool, omdat die beter samenwerkt met Teams. En een communicatiemedewerker maakt beelden voor de nieuwsbrief met een generator die in maart nog niet bestond. Niemand heeft iets fout gedaan. De uitvraag beschreef maart.
Vaker uitvragen lost dit niet op. Elke uitvraag is een momentopname, en het artikel over waarom een AI-toolcatalogus veroudert beschrijft hoe dat komt: er komen dagelijks tools bij, AI verschijnt in software die je al hebt en tools wisselen van eigenaar. Welke methoden er zijn om gebruik op het spoor te komen, en wat elke methode mist, lees je in ons artikel over hoe je ontdekt welke AI-tools medewerkers echt gebruiken. Bij een gemeente komt daar nog iets bij: de proxylogs zien het stadhuis, niet de laptop van een wijkteammedewerker die thuis werkt.
Hoe houd je het bij zonder medewerkers te volgen?
Door alleen vast te leggen wat je voor het besluit nodig hebt. De vraag is welke AI-diensten er in de gemeente worden geopend, hoe vaak, en of daar een besluit over is. Daarvoor is het domein van de dienst genoeg. Wie het opende, welke pagina en wat erop stond, veranderen niets aan het besluit, maar wel aan de meting: een telling van diensten wordt dan een registratie van personen. Dat onderscheid, en wat het betekent voor de AVG en de ondernemingsraad, lees je in AI-monitoring versus medewerkersmonitoring.
Bij BeeSensible legt de extensie daarom alleen het registreerbare domein vast, hooguit één keer per dag per apparaat, zonder gebruikers-id, zonder pad en zonder pagina-inhoud. De waargenomen domeinen worden gekoppeld aan een catalogus van meer dan 1.000 AI-tools, met per tool de leverancier, het land, het trainingsbeleid en een risicoscore. Een beheerder ziet welke tools nog geen besluit hebben en legt het besluit vast; BeeSensible beslist nooit zelf.
