Kritische bespreking van disciplinerende technologie (zoals online proctoring)
Online proctoring maakt deel uit van een trend die de Electronic Frontier Foundation disciplinerende technologie -‘disciplinaire technology’– noemt. Daarbij gaat het om een uitdijende categorie applicaties en apparaten die surveillance van de wieg tot aan het graf mogelijk maakt binnen steeds meer aspecten van ons dagelijks leven.
Volgens de Electronic Frontier Foundation gebruiken leidinggevende software om de productiviteit van werknemers te monitoren, gebruiken we online proctoring en ‘social media proctoring’ om lerenden te volgen en passen we ook allerlei applicaties toe om te volgen wat kinderen, partners en anderen doen. Vaak zonder dat deze personen dat weten. De Electronic Frontier Foundation noemt deze toepassingen
non-consensual violations of a subject’s autonomy and privacy, usually with only a vague connection to their stated goals
Degenen die gemonitord worden, kunnen daar niet vrijelijk voor kiezen. Zij bevinden zich vaak niet in een machtspositie om de toepassing van deze applicaties te weigeren. De rechter oordeelde op 1 juni 2021 ook dat de Universiteit van Amsterdam online proctoring tijdens de coronacrisis mag toepassen omdat sprake is noodzaak en proportionaliteit.
Kenmerken disciplinerende technologie
De auteurs van de Electronic Frontier Foundation stellen echter dat privacy een mensenrecht dat wordt geschonden door flagrante vormen van surveillance.
Zij stellen dat de coronacrisis een impuls heeft gegeven aan het gebruik van deze toepassingen omdat het niet meer mogelijk was surveillance door personen toe te passen. Daardoor worden deze technologieën steeds vaker ‘mainstream’:
- Het gaat daarbij om technologieën die surveillance als doel hebben (kijken of gebruikers in overtreding zijn en gepakt kunnen worden).
- Het betreft technologieën die zich richten op en gebruikt worden door consumenten en private organisaties (werkplek, scholen, thuis).
- De disciplinerende technologieën hebben een discriminerende impact omdat zij achtergestelde onevenredig hard treffen. Bijvoorbeeld studenten uit arme gezinnen met slechte internetverbindingen of zwarte studenten waarvan de applicaties moeite hebben hun gezichten te herkennen.
- Het is onduidelijk of de disciplinerende technologieën bijdragen tot het doel waarvoor zij worden gebruikt. Leidt ‘bossware’ tot een hogere productiviteit of tot lagere tevredenheid van werknemers met hun baan? Reduceert online proctoring de mate van fraude of leidt het tot een grote hoeveelheid valse meldingen?
Zo is technologie niet bedoeld
Volgens Electronic Frontier Foundation heeft het weinig zin om je te verzetten tegen specifieke toepassingen. We moeten ons volgens hen te weer stellen tegen het sterk wordende geloof dat het bespioneren van anderen acceptabel is voor een persoon of organisatie. Daarnaast is het nodig om aan te tonen hoe flinterdun de beloftes van deze disciplinerende technologieën zijn, en hoe schadelijk de toepassing ervan.
Tools that put machines in power over ordinary people are a sickening reversal of how technology should work.
Volgens mij gaat hier nog iets aan vooraf. Binnen onze samenleving gaan we ervan uit dat mensen misbruik maken van de situatie als zij niet worden gemonitord. We gaan ervan uit dat werknemers niet serieus werken, dat kinderen spijbelen of dat anderen onze kinderen iets aan willen doen, en dat lerenden fraude plegen als geen sprake is van surveillance. Opleidingen moeten zelfs expliciet aangeven hoe zij ervoor zorgen dat summatieve toetsen en examens ‘deugdelijk’ worden gemaakt.
En uiteraard zijn er mensen die misbruik maken van deze situatie. Het is echter de vraag wat daar de reden van is, wat de impact is van het ‘misbruik’ en hoe groot deze groep is (ik kan me voorstellen dat bepaalde groepen lerenden eerder frauderen dan anderen, als ze daar de kans toe krijgen). Daarnaast kun je kijken naar alternatieven voor disciplinaire technologie. Geef mensen in elk geval een oprechte en reële keuze om gebruik te maken van deze technologie.
Het toenemend gebruik van technologie voor surveillance en disciplinering is immers inderdaad een zorgelijke tendens vanuit het perspectief van publieke waarden zoals privacy, autonomie, gelijke machtsverhoudingen, gelijke behandeling en controle over technologie (lees hierover meer in Opwaarderen. Borgen van publieke waarden in de digitale samenleving).
The post
Kritische bespreking van disciplinerende technologie (zoals online proctoring) first appeared on
WilfredRubens.com over leren en ICT.
Lees het hele
artikel