Moet een organisatie ‘schaduw AI’ ontmoedigen of toestaan?
Veel docenten gebruiken inmiddels eigen AI-tools om hun werk te doen, vaak zonder dat de onderwijsinstelling daarvan op de hoogte is. Dat brengt kansen met zich mee, maar ook risico’s die beheersbaar moeten blijven.
Het gebruik van eigen AI-tools hangt samen met wat al langer bekend staat als schaduw-IT: systemen, applicaties of diensten die medewerkers zonder toestemming of medeweten van de IT-afdeling inzetten om werkprocessen uit te voeren. Denk aan cloudopslag zoals Dropbox of communicatietools zoals WhatsApp. Met de opkomst van generatieve AI is daar een variant bijgekomen: schaduw-AI. Docenten gebruiken tools als Google Gemini of niet-goedgekeurde plugins, zonder dat de instelling hier zicht op heeft.
Er zijn verschillende redenen waarom docenten voor eigen AI-tools kiezen in plaats van voorzieningen van de instelling. Vaak ontbreekt een duidelijk beleid, of zijn er simpelweg geen officiële voorzieningen voor AI beschikbaar. Waar die er wel zijn, zijn ze soms minder krachtig, minder gebruiksvriendelijk of minder ‘ethisch’ dan de tools die docenten al kennen. Daarnaast hebben veel docenten al langere tijd ervaring opgebouwd met bepaalde tools: ze kennen de werking, hebben er een geschiedenis in opgebouwd en zien geen reden om over te stappen naar een minder vertrouwd alternatief dat hen minder goed ‘kent’ (sorry voor het antropomorfisme).
De individuele docent heeft hier voordelen bij. Eigen tools zijn snel, krachtig, flexibel en sluiten direct aan bij de behoefte van het moment, bijvoorbeeld bij het genereren van lesideeën of het geautomatiseerd nakijken van werk. Dat bespaart tijd en kan de kwaliteit van het onderwijs ten goede komen. Tegenover deze voordelen staan risico’s, waarvan privacy- en beveiligingsproblemen het meest in het oog springen. Bij niet-goedgekeurde tools is vaak onduidelijk waar gegevens worden opgeslagen, wie daar toegang toe heeft en hoe lang ze bewaard blijven. Er is geen controle vanuit de instelling op de beveiligingsmaatregelen van de leverancier, geen zicht op eventuele kwetsbaarheden in plugins of koppelingen, en bij een datalek is er geen incidentproces waarbij de instelling is betrokken. Ook ontbreekt ondersteuning: als een tool uitvalt of een fout maakt, kan de docent niet terugvallen op de helpdesk van de instelling.
Vanuit het perspectief van de organisatie liggen de voor- en nadelen anders. Dat medewerkers zelf naar oplossingen zoeken, kan innovatie stimuleren en soms kosten besparen wanneer alternatieve tools goedkoper zijn dan de officiële voorzieningen. Daar staat tegenover dat de instelling controle verliest, dat data versnipperd raakt over allerlei niet-goedgekeurde systemen, en dat het lastiger wordt om centrale beveiliging en updates af te dwingen.
Een specifiek risico is compliance. Het gebruik van eigen AI-tools kan in strijd zijn met de AVG, of met sectorspecifieke regelgeving in het onderwijs, of met andere verplichtingen van de instelling. Een concreet voorbeeld is het Normenkader Informatiebeveiliging en Privacy, dat onderwijsinstellingen hanteren als basis voor hun informatiebeveiliging. Instellingen leggen hierover verantwoording af via audits en zelfevaluaties, en moeten kunnen aantonen dat gegevens binnen de gestelde normen worden verwerkt. Wanneer een docent via een eigen, niet-beoordeelde AI-tool gegevens van lerenden verwerkt, valt dat buiten het zicht van dit normenkader en ondermijnt dat de mate waarin de instelling kan aantonen aan de eigen verplichtingen te voldoen. Bij een datalek is de instelling aansprakelijk, ook als het datalek ontstond via een tool die een individuele docent zelf had gekozen.
Ook de kosten worden minder beheersbaar door schaduw-AI. Wanneer docenten uitgaven voor eigen AI-abonnementen gaan declareren, ontstaat een situatie waarin de instelling lastig zicht heeft op het totale gebruik en de bijbehorende kosten. Dat wordt nog minder inzichtelijk wanneer betalingen lopen via de creditcard van een teammanager, buiten de reguliere inkoopprocessen om. Het risico bestaat dan dat een (substantieel?) deel van het budget wordt besteed zonder dat dit centraal wordt overzien of verantwoord. Volgens mij is het daarom onmogelijk om alle IT-kosten van een onderwijsinstelling in beeld te brengen.
Ik vind het belangrijk om te benadrukken dat een docent onderdeel is van een grotere organisatie. Persoonlijk gemak is geen doorslaggevend argument als het risico’s voor de instelling als geheel met zich meebrengt. Een docent heeft zich ook te verhouden tot de belangen en verplichtingen van de onderwijsorganisatie, en tot afspraken en regels die binnen de onderwijsorganisatie zijn gemaakt ten aanzien van het gebruik van ‘AI’.
Niet elke vorm van schaduw-IT of schaduw-AI is even bezwaarlijk. Het type applicatie en de context waarin die wordt gebruikt, zijn bepalend. Bij een digitale leeromgeving die een docent buiten de officiële voorziening om gebruikt, kan de continuïteit van het onderwijs in gevaar komen, bijvoorbeeld wanneer die docent tijdelijk uitvalt en niemand anders toegang heeft tot het materiaal of de instellingen van die omgeving. Ook worden in een DLO persoonsgegevens van lerenden verwerkt. Docenten zouden dus geen eigen DLO moeten gebruiken. Het individueel gebruiken van een applicatie als Claude voor het ontwikkelen van opdrachten is van een andere orde: de afhankelijkheid en de impact bij uitval zijn aanzienlijk kleiner. Als het goed is gebruikt een docent een dergelijke applicatie ook niet voor het verwerken van persoonsgegevens. Een dergelijke applicatie kun je, mits je deze verstandig gebruikt, prima los van een organisatie toepassen.
Een aparte categorie risico ontstaat bij het gebruik van AI-agents: AI-toepassingen die niet alleen antwoord geven, maar ook zelfstandig handelingen uitvoeren, bijvoorbeeld door bestanden te doorzoeken, in te loggen op accounts of taken uit te voeren op de computer van de gebruiker. Om dat te kunnen doen, krijgt zo’n agent toegang tot onderdelen van de computer waar mogelijk gevoelige gegevens op staan, zoals e-mails, opgeslagen documenten of ingelogde sessies. Bij een niet-goedgekeurde agent is onduidelijk wat er met die toegang gebeurt, welke gegevens elders worden opgeslagen, en of de agent onderscheid kan maken tussen gewone en vertrouwelijke informatie. Dat maakt risico’s aanmerkelijk groter dan bij een AI-tool die alleen op verzoek een tekst genereert.
In deze blogpost ben ik al een aantal keren ingegaan op het gebruik van persoonsgegevens of gevoelige bedrijfsgegevens in eigen IT-toepassingen. Voor deze toepassingen beschik je als individuele gebruiker, zelfs bij een betaald account, doorgaans niet over een verwerkersovereenkomst tussen jou en de aanbieder, en gegevens kunnen worden opgeslagen buiten de Europese Economische Ruimte. Dat maakt het gebruik van dergelijke gegevens in niet-goedgekeurde tools onacceptabel, ongeacht hoe nuttig de tool verder is. Een op het eerste oog keurige ‘privacy policy’ is hiervoor niet afdoende.
Voor onderwijsinstellingen ligt de opgave m.i. niet in het verbieden van AI-tools. Het gaat om het verkleinen van de risico’s die schaduw-AI met zich meebrengt, en het kunnen verantwoorden van gemaakte keuzes. Een aantal aandachtspunten daarbij:
- Zorg voor duidelijk beleid over het gebruik van AI-tools, inclusief richtlijnen over welke gegevens wel en niet mogen worden verwerkt en over het gebruik van AI-agents.
- Investeer in professionalisering van medewerkers in het gebruik van AI-tools.
- Investeer in officiële applicaties die qua gebruiksgemak aansluiten bij wat docenten gewend zijn, zodat de noodzaak om uit te wijken naar eigen tools afneemt. In How to encourage smarter AI use in the classroom lees je dat de Cheshire Academy geen uniform beleid heeft voor één tool. Docenten van deze school gebruiken een combinatie van algemene AI-tools zoals ChatGPT en Perplexity en het specifiek voor onderwijs ontwikkelde platform MagicSchool. Docenten zijn getraind in algemene vaardigheden, zoals het formuleren van bruikbare prompts. De training besteedde ook aandacht aan de beperkingen van AI, waaronder het risico op onjuiste of bevooroordeelde antwoorden. Het gaat er ook niet om dat je als onderwijsinstelling altijd de meest geavanceerde applicatie gebruikt. Tools van bekende AI-bedrijven wisselen zich regelmatig af wat betreft ‘koppositie’. Dat is voor een organisatie niet bij te houden. Betrek gebruikers wel, bijvoorbeeld via een IT-board, bij het maken van keuzes.
- Breng in kaart welke tools binnen de instelling al worden gebruikt door gebruikers. Let daarbij op de ’tone of voice’ van de inventarisatie. Als gebruikers het gevoel hebben dat je hun favoriete AI-tools wilt verbieden, dan zullen ze geen terugkoppeling geven. Geef dus aan wat je er mee wilt doen (zorgvuldig gebruik bevorderen). Maak vervolgens een overzicht waarin je een onderscheid maakt tussen toepassingen met een hoog risico, zoals een AI-agent met brede toegang tot de computer, en toepassingen met een laag risico, zoals individueel gebruik voor het voorbereiden van lesmateriaal. Geef gebruikers adviezen en richtlijnen over hoe zij met die verschillende risico’s het beste om kunnen gaan.
- Oormerk een realistisch bedrag voor AI-bestedingen. Zorg voor een centraal en transparant overzicht van kosten die met AI-gebruik samenhangen. Maak afspraken over financiering hiervan zodat uitgaven niet ongemerkt via declaraties of persoonlijke betaalmiddelen lopen.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel