Bloggers

Van Wilfred Rubens (redactie) | 01-06-2018 | | (0) reacties

Gezichtsherkenning gebruiken binnen het onderwijs: het kan, maar of je het moet willen?

De afgelopen week kwam ik een bericht tegen over een school in China die ‘facial recognition technology’ gebruikt om gedrag van lerenden te analyseren en de resultaten te gebruiken om het onderwijs aan te passen. Ik vind daar wel wat van.

De Hangzhou No. 11 High School heeft camera’s opgehangen waarmee elke dertig seconden gezichtsuitdrukkingen van lerenden worden geregistreerd. Zij onderscheiden zeven verschillende uitdrukkingen: neutraal, blij, verdrietig, teleurgesteld, bang, boos en verbaasd.

Bekijk ook deze video.

Het zogenaamde “Intelligent Classroom Behavior Management System” zou ook zes soorten gedrag analyseren (staan, lezen, schrijven, hand op steken, luisteren naar de docent en op tafel leunen).

De data worden lokaal opgeslagen waarmee de privacy van lerenden geborgd zou zijn.

De data worden aan docenten gegeven om het gedrag van lerenden te analyseren en om daaruit consequenties te trekken voor het eigen onderwijs. Ook wordt het systeem gebruikt om de aanwezigheid te registreren. Anekdotisch bewijsmateriaal suggereert dat lerenden hun gedrag aanpassen nu ze weten dat zij geobserveerd worden.

Wat mij betreft is een voorbeeld van een technologische toepassing die we niet moeten willen inzetten.

Op de eerste plaats heb ik hier ethische bezwaren tegen. Lerenden moeten kunnen opgroeien in een situatie waarin zij fouten kunnen maken, risico’s durven te nemen en ongewenst gedrag kunnen vertonen waarvan zij kunnen leren. Door permanent geobserveerd te worden leren lerenden zich alleen te conformeren. Wat doet dat met hun creativiteit? Worden zij daar ondernemend van? Permanente observatie werkt vrijheidsbeperkend. In ons land is dit gelukkig verboden (onder meer vanwege registratie bijzondere persoonskenmerken zonder gerechtvaardigd doel).

Op de tweede plaats heb ik hier ook inhoudelijke bezwaren tegen. Er wordt gesuggereerd dat een docent zijn manier van lesgeven aan zou moeten passen aan de gemoedstoestand van lerenden. Is er echter sprake van een verband tussen een bepaalde gemoedstoestand en succesvol leren? Lerenden die blij kijken, zouden juist wel eens weinig kunnen leren omdat ze het te gemakkelijk hebben. Waarom analyseert men de betreffende soorten gedrag? Welke aannames liggen hier aan ten grondslag? Lerenden die met elkaar in gesprek zijn, kunnen juist bezig zijn leerstof actief te verwerken. Deze data zouden weleens gebruikt kunnen worden om verkeerde conclusies te trekken.

China heeft een bedenkelijke reputatie als het gaat om het monitoren van mensen en het gebruiken van de data (en op het gebied van mensenrechten in het algemeen). Deze toepassing is hier een voorbeeld van. Niet doen.