Een privacyfunctionaris bij een woningcorporatie krijgt in dezelfde week twee vragen over dezelfde tool. Marketing wil ChatGPT gebruiken om vacatureteksten vlotter te maken. HR wil ermee de vijftig sollicitaties op een vacature voorsorteren, want dat scheelt een dag lezen. Beide teams verwachten hetzelfde antwoord, want het is toch dezelfde tool.
Ze geeft twee verschillende antwoorden, en dat is niet inconsequent. Eén AI-tool kan tegelijk een laag en een hoog risico vormen, omdat het risico niet in de tool zit maar in het gebruik, de gegevens en het account. De AI-verordening doet precies hetzelfde: die classificeert toepassingen naar hun doel, niet tools naar hun naam.
Waarom zit het risico niet in de tool?
Een beoordeling van een AI-tool bestaat uit twee helften. De eerste gaat over de leverancier en het product: wat er met invoer gebeurt, of erop wordt getraind, waar de verwerking plaatsvindt, of er een verwerkersovereenkomst is, welke koppelingen de tool krijgt. Die helft is voor elke afdeling gelijk. De tweede helft gaat over de organisatie: waarvoor het team de tool inzet en welke persoonsgegevens daarbij langskomen. Die helft verschilt per aanvraag en wordt het vaakst overgeslagen. Hoe die dimensies zich verhouden, lees je in het artikel over hoe je het risico van een AI-tool beoordeelt.
Wie alleen de eerste helft doet, komt uit op één oordeel per tool. Wie beide doet, komt uit op één oordeel per gebruik.
Wat verandert er met het doel?
Hier komt de AI-verordening in beeld, en alles draait om de term "beoogd doel". De verordening merkt een AI-systeem aan als hoogrisicosysteem wanneer het beoogde doel in bijlage III staat. Punt 4 van die bijlage gaat over werkgelegenheid: sollicitaties filteren, kandidaten beoordelen, beslissen over promotie of ontslag, prestaties volgen. Een vacaturetekst opstellen staat er niet in.
Voor de woningcorporatie betekent dat: de vraag van marketing raakt bijlage III niet. De vraag van HR wel, al zit daar een nuance in. Een algemene chatbot is door de aanbieder niet bedoeld als selectiesysteem, dus de recruiter die er losse cv's in plakt, gebruikt geen hoogrisicosysteem in de zin van de wet. Bouwt de organisatie het model in het wervingsproces in en laat ze het bepalen wie op gesprek komt, dan heeft ze zelf een hoogrisicosysteem gemaakt en schuift ze op van gebruiksverantwoordelijke naar aanbieder. Wat er in dat geval op je afkomt, lees je in ons artikel over wat de AI-verordening voor werkgevers betekent.
Die nuance is geen vrijbrief. De recruiter neemt hoe dan ook een beslissing over mensen met een hulpmiddel dat daar niet voor is beoordeeld. Daarvoor gelden de AVG en het eigen beleid, ook als de wet het systeem niet als hoogrisicosysteem aanmerkt.
Wat verandert er met de gegevens?
De AVG stelt de vraag vanaf de andere kant: niet wat het systeem is, maar welke persoonsgegevens er worden verwerkt en met welke grondslag. Een vacaturetekst bevat er geen. Vijftig sollicitaties bevatten namen, adressen, geboortedata, werkgeschiedenis en soms een zin over gezondheid of een gezinssituatie. Wat er dan speelt, van grondslag tot menselijke tussenkomst, staat in ons artikel over veilig werken met AI in HR.
Dezelfde tool, twee verwerkingen. Bij de tweede wil je weten of er een verwerkersovereenkomst is, of de invoer wordt bewaard en of erop wordt getraind. Dat brengt de derde variabele in beeld.
Wat verandert er met het account?
De recruiter gebruikt ChatGPT via een gratis account dat al op haar laptop stond. Marketing heeft een zakelijke licentie via de afdeling. Dat is geen detail: het gratis account draait onder consumentenvoorwaarden, zonder verwerkersovereenkomst, en bij de meeste leveranciers met training op invoer als standaard tenzij de gebruiker het uitzet. Het zakelijke account regelt die drie anders. Waarom de scheidslijn tussen accounttypes zwaarder weegt dan die tussen merken, staat in gratis versus zakelijk AI-account.
Voor de classificatie onder de AI-verordening maakt het account niets uit; het doel is bepalend. Voor het risico onder de AVG bepaalt het account of je een verwerking kunt verantwoorden of niet. Daarom staan gratis en zakelijke versies van dezelfde tool als aparte regels in een register, met een eigen beoordeling.
Hoe ziet dat eruit voor één tool?
Zet de drie variabelen naast elkaar en één tool valt uiteen in een paar regels.
| Gebruik | Gegevens | Account | AI-verordening | AVG | Besluit |
|---|---|---|---|---|---|
| Vacaturetekst opstellen | Geen persoonsgegevens | Zakelijke licentie | Geen hoog risico | Geen verwerking van persoonsgegevens | Toegestaan |
| Sollicitatiebrieven samenvatten | Persoonsgegevens van kandidaten | Gratis account | Geen hoog risico, wel een besluit over mensen | Verwerking zonder verwerkersovereenkomst | Niet toegestaan via dit account |
| Kandidaten rangschikken als vast onderdeel van de selectie | Persoonsgegevens, mogelijk bijzondere | Zakelijke licentie | Wordt een hoogrisicosysteem als het in het proces wordt ingebouwd | Verwerking met hoog risico, DPIA aan de orde | Nog geen besluit, eerst beoordelen |
De tabel is het antwoord op de vraag uit de titel. De eerste regel heeft een laag risico, de derde een hoog, en het is dezelfde tool. Wie in het register maar één regel voor ChatGPT heeft, heeft een van de drie situaties fout beoordeeld.
Hoe ging het verder bij de woningcorporatie?
De privacyfunctionaris geeft marketing groen licht, met de zakelijke licentie als voorwaarde. HR krijgt een ander antwoord: sollicitaties samenvatten mag niet via het gratis account, en het rangschikken van kandidaten wordt eerst als aparte toepassing beoordeeld, met de vraag wie het toezicht houdt en wat de leverancier over de werking heeft vastgelegd. Tot die tijd blijft de status "Nog geen besluit".
Bij het uitwerken blijkt uit een inventarisatie dat naast Copilot, dat al was toegestaan, ook Perplexity, ChatGPT en drie gespecialiseerde tools in gebruik zijn, waarvan twee nog niet in het register staan. Dat is geen incident. Het laat zien dat een eenmalige inventarisatie snel achterloopt, en dat het gesprek over één tool meestal begint met de vraag welke tools er eigenlijk zijn.
BeeSensible koppelt een catalogus van AI-tools aan het gebruik dat in de organisatie wordt waargenomen: alleen het domein, hooguit één keer per dag per apparaat, zonder gebruikers-id. Gratis en zakelijke versies van dezelfde tool staan er als aparte regels in, elk met een eigen risicoscore en een duiding volgens de AI-verordening. Die score is advies over de tool; het gebruik en de gegevens kan een catalogus niet invullen, en daarom zet de organisatie zelf de status, met bij "Beperkt toegestaan" de voorwaarde die het gebruik afbakent. Hoe dat werkt, staat op de pagina over AI-tools.
