Een HR-adviseur bij een woningcorporatie krijgt een bericht van de leverancier van het sollicitatiesysteem: er is een nieuwe functie die binnengekomen sollicitaties op volgorde van geschiktheid zet. Dezelfde ochtend vraagt een collega of de chatbot waarmee ze afwijzingsbrieven schrijft nu ook onder "hoog risico" valt, want dat heeft ze ergens gelezen.
Het eerste valt onder hoog risico, het tweede niet, en het verschil zit niet in de techniek. Volgens de AI-verordening heeft een AI-systeem een hoog risico als het beoogde doel ervan in bijlage III staat, of als het een veiligheidscomponent is in een product dat al onder Europese productregels valt. Sollicitaties rangschikken staat in bijlage III. Een brief schrijven niet.
Wat bepaalt of een systeem onder hoog risico valt?
Artikel 6 kent twee routes. De eerste loopt via bestaande productwetgeving (bijlage I): AI als veiligheidscomponent in een machine, een lift of een medisch hulpmiddel. Die route speelt alleen voor wie zulke producten maakt.
De tweede route is bijlage III: acht gebieden met daarin concrete doelen. Staat het doel waarvoor een systeem is bedoeld op die lijst, dan valt het onder hoog risico. Alles draait om het woord "bedoeld": de aanbieder legt het beoogde doel vast in de documentatie, en daar hangt de classificatie van af. Een eenvoudig scoremodel dat cv's sorteert, is een hoogrisicosysteem. Een groot taalmodel dat een vacaturetekst opstelt, niet.
Welke toepassingen raken een werkgever?
De acht gebieden zijn biometrie, kritieke infrastructuur, onderwijs en opleiding, werk, toegang tot essentiële diensten, rechtshandhaving, migratie en grensbeheer, en rechtspraak. Vier daarvan komt een gewone werkgever tegen.
| Gebied in bijlage III | Wat eronder valt, in gewone taal | Wie het tegenkomt |
|---|---|---|
| Werk (punt 4) | Vacatures gericht plaatsen, sollicitaties filteren, kandidaten beoordelen; beslissen over promotie, ontslag en taakverdeling op basis van gedrag of persoonskenmerken; prestaties en gedrag volgen en beoordelen | Elke werkgever met een wervings-, rooster- of beoordelingssysteem |
| Onderwijs en opleiding (punt 3) | Toelating bepalen, leerresultaten beoordelen, het passende niveau bepalen, verboden gedrag tijdens toetsen opsporen | Onderwijsinstellingen, opleidingsafdelingen met toetsing |
| Essentiële diensten (punt 5) | Recht op uitkeringen en publieke diensten beoordelen, kredietwaardigheid bepalen, risico en prijs bij levens- en zorgverzekeringen, noodoproepen beoordelen | Gemeenten, uitkeringsinstanties, banken, verzekeraars |
| Biometrie (punt 1) | Biometrische identificatie op afstand, categorisering op gevoelige kenmerken, emotieherkenning | Organisaties met toegangscontrole of klantherkenning |
Bij biometrie hoort een kanttekening: emotieherkenning op de werkplek en in het onderwijs valt niet onder hoog risico, maar is verboden (artikel 5), behalve om medische of veiligheidsredenen. Een tool die "enthousiasme" scoort in een videosollicitatie zet je niet onder toezicht, die zet je uit. Wat de verboden praktijken verder voor werkgevers betekenen, lees je in het artikel over wat de AI-verordening voor werkgevers betekent.
Punt 4 is breder dan werving. "Prestaties en gedrag volgen en beoordelen" geldt ook voor software die uit werkdata van individuele medewerkers een oordeel afleidt: een roostersysteem dat productiviteit scoort, een tool die e-mailgedrag beoordeelt. Wie zo'n functie in een bestaand pakket heeft zitten, gebruikt een hoogrisicosysteem zonder het als AI te hebben gekocht.
Wanneer valt een toepassing uit bijlage III toch niet onder hoog risico?
Artikel 6 lid 3 kent een uitzondering, en die is beperkter dan leveranciers vaak doen voorkomen. Een systeem uit bijlage III valt niet onder hoog risico als het geen significant risico voor de gezondheid, veiligheid of grondrechten van mensen oplevert, onder meer omdat het de uitkomst van een beslissing niet wezenlijk beïnvloedt. Dat geldt alleen in vier situaties:
- Het systeem voert een beperkte procedurele taak uit, zoals ongestructureerde gegevens omzetten in een gestructureerd bestand.
- Het verbetert het resultaat van een menselijke activiteit die al is afgerond, zoals de formulering van een beoordeling die al geschreven is.
- Het spoort patronen of afwijkingen op in eerdere beslissingen, en vervangt of beïnvloedt de menselijke beoordeling niet zonder behoorlijke menselijke toetsing.
- Het voert een voorbereidende taak uit voor een beoordeling, zoals zoeken, indexeren of vertalen.
En dan de zin die de uitzondering begrenst: een systeem dat natuurlijke personen profileert, valt altijd onder hoog risico. Profilering heeft hier de betekenis uit de AVG: het geautomatiseerd beoordelen van persoonlijke aspecten van iemand. Een tool die kandidaten scoort op hun eigenschappen, profileert dus en valt nooit onder de uitzondering, hoe voorbereidend de leverancier de taak ook noemt.
Een aanbieder die meent dat zijn systeem onder lid 3 valt, legt die beoordeling vast. Als gebruiksverantwoordelijke mag je ernaar vragen, en het antwoord hoort meer te zijn dan "wij zijn geen hoog risico". De AI-verordening draagt de Europese Commissie op om richtsnoeren met praktijkvoorbeelden voor deze uitzonderingen te publiceren; vergelijk de beoordeling van een leverancier met die voorbeelden.
Valt ChatGPT voor een vacaturetekst dan onder hoog risico?
Nee. Tekst schrijven, samenvatten en vertalen staat niet in bijlage III, en een algemeen taalmodel heeft geen beoogd doel dat op die lijst past. Voor dat gebruik gelden de AVG, de plicht tot AI-geletterdheid uit artikel 4 en je eigen beleid.
Dat verandert in twee situaties. Een organisatie die zo'n model koppelt aan de sollicitantenadministratie en het laat bepalen wie op gesprek komt, heeft een hoogrisicosysteem gemaakt en wordt daarvan volgens de AI-verordening zelf aanbieder. Subtieler is de recruiter die een chatbot vijftig cv's laat rangschikken: in de zin van de wet gebruikt hij geen hoogrisicosysteem, want het systeem is daar niet voor bedoeld. Maar hij neemt wel een beslissing over mensen met een hulpmiddel dat daar niet op is beoordeeld, en dan gelden de AVG en het beleid wel. Hoe dat in HR uitpakt, lees je in het artikel over veiliger werken met AI in HR.
Drie vragen lopen hier door elkaar: wat is het systeem (de classificatie, van de aanbieder), wat doe je ermee (het gebruik, van jou) en wie is verantwoordelijk (voor gebruik in de organisatie altijd jij). De leverancier beantwoordt de eerste.
Wat betekent hoog risico voor jou als gebruiksverantwoordelijke?
De zware plichten liggen bij de aanbieder. Voor de organisatie die het systeem gebruikt staat een kortere lijst in artikel 26: gebruiken volgens de instructies, menselijk toezicht beleggen bij mensen met de kennis en de bevoegdheid om in te grijpen, de werking volgen en logs bewaren, werknemers en hun vertegenwoordigers vooraf informeren en de informatie van de aanbieder gebruiken voor de DPIA. Het overzichtsartikel over wat de AI-verordening voor werkgevers betekent werkt die lijst uit.
Voor systemen uit bijlage III gelden die plichten vanaf 2 december 2027. Die datum komt uit de Digital Omnibus voor AI, die de oorspronkelijke datum van 2 augustus 2026 heeft verschoven; voor AI in gereguleerde producten is het 2 augustus 2028. Wat wel en niet is opgeschoven, staat in de tijdlijn van de AI-verordening na de Digital Omnibus.
Hoe ziet dat er in de praktijk uit?
Terug naar de woningcorporatie. HR zet de rangschikfunctie uit tot duidelijk is wie het toezicht houdt en wat de leverancier over de werking heeft vastgelegd. De chatbot voor afwijzingsbrieven blijft in gebruik, met één afspraak erbij: geen cv's erin plakken om ze te laten vergelijken. Bij het inventariseren blijken naast Copilot ook Perplexity, een transcriptietool en een tool die huurdersvragen voorsorteert in gebruik te zijn. Geen daarvan staat in bijlage III; over twee is nog niets besloten.
Dat is geen incident. Het laat zien dat de vraag naar hoog risico maar een klein deel van het AI-gebruik raakt, en dat je hem pas kunt stellen als je weet welke AI er in gebruik is. BeeSensible koppelt een catalogus van AI-tools aan het gebruik dat in de organisatie zichtbaar is: alleen het domein, hooguit één keer per dag per apparaat, zonder gebruikers-id. Elke tool in de catalogus heeft een indeling volgens de AI-verordening, als hulp bij een eerste schifting; het oordeel over het eigen gebruik blijft bij de organisatie, die per tool zelf de status bepaalt. Hoe dat werkt, staat op de pagina over AI-tools.
