Een docent geschiedenis op een vo-school zet op zondagavond twintig toetsvragen in een gratis tool die er vier niveaus van maakt. Op maandag deelt een collega in de personeelskamer een extensie die lesvideo's samenvat. Geen van beiden heeft iets gemeld, en geen van beiden heeft iets overtreden, want er is hierover nog niets afgesproken.
Dat is shadow AI in het onderwijs: AI-gebruik dat personeel zelf is begonnen, zonder besluit van de school. Het komt uit drie hoeken die alle drie buiten het zicht van ICT vallen: gratis tools op een eigen account, AI-functies die in bestaande leermiddelen verschijnen, en browserextensies. Wat de school nodig heeft, is geen verbod maar zicht op welke tools worden geopend, een besluit per tool, en dat besluit in beeld op het moment dat iemand de tool opent. Daar hoef je geen docent voor te volgen.
Waar komt shadow AI op een school vandaan?
De algemene definitie staat in onze uitleg over shadow AI: zelf te starten, geen besluit, echt in gebruik. Op scholen heeft dat drie herkenbare vormen.
| Waar het vandaan komt | Voorbeeld | Waarom het buiten beeld blijft |
|---|---|---|
| Gratis tool op een eigen account | De gratis versie van ChatGPT, MagicSchool, Curipod, een vertaaldienst | Geen inkoop, geen schoolinlog, vaak thuis op een eigen apparaat |
| AI-functie in een leermiddel dat al in gebruik is | Een leerlingvolgsysteem of methode die een samenvat- of nakijkfunctie toevoegt | Zelfde domein, zelfde verwerkersovereenkomst, nieuwe verwerking die niemand opnieuw beoordeelde |
| Browserextensie | Een extensie die video's samenvat, mails herschrijft of tekst nakijkt | In twee seconden geïnstalleerd, met leesrechten op elke pagina, zonder beheerder |
De eerste vorm is de bekendste en het makkelijkst te zien. De tweede is de stilste: de tool stond al in het register als toegestaan, en de nieuwe functie kwam met een update. Waarom dat op zichzelf al reden is voor een nieuwe beoordeling, lees je in ons artikel over waarom een AI-toolcatalogus veroudert. De derde vorm wordt bijna altijd overgeslagen, terwijl een extensie met leesrechten ook een AI-tool is, en dan een met een groter bereik dan de chatbot zelf.
Waarom ontstaat het juist op scholen?
Om dezelfde reden als overal: het werk wordt er lichter van. Dertig werkstukken van feedback voorzien, een toets op drie niveaus, een ouderbrief die ook zonder vakjargon te volgen is. De toegestane tool is er vaak wel, maar voelt op zondagavond niet toereikend, of de docent kent hem gewoon minder goed dan de tool die thuis al openstond.
Drie dingen maken het op een school anders dan op kantoor. Personeel werkt veel thuis en op eigen apparaten, dus het netwerk van de school ziet weinig. De gegevens die langskomen zijn van kinderen, met een zorgnotitie of een ontwikkelingsperspectief als zwaarste categorie. En de school werkt met verwerkersovereenkomsten via het privacyconvenant onderwijs, terwijl een gratis account onder consumentenvoorwaarden werkt zonder zo'n overeenkomst. Dat laatste is in het onderwijs de eerste vraag bij elke tool die opduikt, nog voor de vraag wat hij kan. De Autoriteit Persoonsgegevens kreeg meerdere datalekmeldingen binnen waarbij medewerkers persoonsgegevens in een AI-chatbot hadden gezet, en adviseert organisaties duidelijke afspraken te maken over de vraag of het mag en welke gegevens erin mogen.
Een verbod lost dit niet op. Het haalt de tool niet weg, alleen het tabblad dat je nog kon zien, en het gebruik verhuist naar de telefoon en het privéaccount. Wat overblijft is precies het accounttype dat je niet wilde.
Waarom loopt een uitvraag per kwartaal achter?
Een bestuur met twaalf scholen doet in oktober een uitvraag bij de ICT-coördinatoren: welke AI-tools worden bij jullie gebruikt? De lijst telt zeventien tools, waarvan zes nog geen besluit hebben. Het bestuur beoordeelt ze, legt de statussen vast en stuurt in december het overzicht rond.
In januari zijn er drie nieuwe tools bij, waarvan er één op vier scholen tegelijk is opgedoken na een webinar. Een leermiddel dat als toegestaan in het register stond heeft in dezelfde periode een functie gekregen die werkstukken van commentaar voorziet. En de extensies stonden in oktober al niet op de lijst, omdat niemand ze als AI-tool herkende.
Dat is geen mislukte uitvraag. Een lijst die mensen uit hun hoofd invullen, is een momentopname, en het gebruik loopt door. Welke methoden er zijn en wat elke methode mist, lees je in ons artikel over hoe je shadow AI ontdekt.
Hoe houd je het bij zonder docenten te volgen?
Door de meting te beperken tot de vraag die de school echt heeft: welke AI-tools worden er geopend, en welke daarvan hebben nog geen besluit? Voor die vraag is het domein van de dienst genoeg: dat er deze maand op de scholen van het bestuur een AI-tool is geopend, welke, en hoe vaak. Wie dat deed, voegt niets toe. Leg je het toch vast, dan wordt een telling van diensten een registratie van personen. Dat verschil, en wat het betekent voor de AVG en de medezeggenschap, staat in AI-monitoring versus medewerkersmonitoring.
BeeSensible legt daarom alleen het registreerbare domein vast, hooguit één keer per dag per apparaat, zonder gebruikers-id, zonder pad en zonder pagina-inhoud. Een nieuwe tool komt in de Inbox terecht met de status "Nog geen besluit"; de beheerder van het bestuur beoordeelt hem en legt het besluit vast. Zo ziet dat register eruit:
