De onzichtbare hand die AI vasthoudt
Bij recente Amerikaanse afstudeerplechtigheden werden sprekers die AI omschreven als de volgende industriële revolutie systematisch uitgefloten door afgestudeerden. Volgens Abi Awomosu wezen deze jongeren de technologie niet af, maar de achterliggende structuur. In een indrukwekkend essay gaat zij onder meer in op de kern -“grain”- van AI.
Volgens de auteur raakten op drie verschillende universiteiten sprekers -waaronder oud-Google-topman Eric Schmidt- telkens het publiek kwijt zodra ze het woord AI in de mond namen. De verklaring die Awomosu geeft, is niet dat deze generatie de technologie afwijst. Jongeren van nu zijn opgegroeid in door algoritmen gestuurde omgevingen. Ze zoeken met behulp van AI, worden gescreend via AI, en zien hun sociale mediafeeds bepaald worden via AI. Ze zijn al ‘in’ het medium, of ze dat willen of niet. Wat ze uitjouwen is de groep mensen aan de microfoon: diegenen die de infrastructuur hebben gebouwd en nu zeggen dat lerenden er dankbaar voor moeten zijn terwijl ze tegelijkertijd geen toegang hadden tot onderwijs over hoe die infrastructuur werkt.
Awomosu positioneert AI als een ‘medium’ en introduceert daarbij het begrip ‘grain’. Dat is de kern, de structurele tendens, van een medium. Elk medium versterkt bepaalde dingen en onderdrukt andere, niet door opzet maar door hoe het is gebouwd. De drukpers bevoordeelde een permanent karakter, lineariteit en autoriteit. Televisie bevoordeelde onder meer spektakel boven complexiteit, en passief ontvangen. Sociale media bevoordelen verontwaardiging en polarisatie. AI als medium, zo stelt het essay op basis van een experiment waarbij vijf grote taalmodellen werden gevraagd naar hun eigen tendenties, neigt naar coherentie boven waarheid, naar het gemiddelde van wat al is gezegd, naar vleierij door architectuur, en naar vloeibaarheid boven wrijving. Een AI-systeem geeft eerder een vloeiend maar mogelijk onjuist antwoord dan een aarzelend maar eerlijk “dit is onopgelost”. Dat is volgens de auteur geen fout, dat is de structuur.
Zij plaatst die structuur in een bredere historische lijn. Awomosu beschrijft hoe elke grote mediaovergang -van drukpers tot televisie, van internet tot sociale media- gepaard ging met een patroon: toegang werd verleend, maar de instructie over hoe het medium werkt werd achtergehouden. Gebruikers van Facebook werden nooit geïnformeerd over wat Facebook met hun aandacht deed. De academische analyse (Zuboff’s “The Age of Surveillance Capitalism”) verscheen in 2019, vijftien jaar nadat het platform was gelanceerd. Met AI dreigt hetzelfde patroon zich te herhalen, al gaat de structuur nu nog een stap verder: arbeidsplaatsen worden actief vervangen terwijl de groep die hierover beslist publiekelijk verklaart dat dit de norm is en dat mensen er maar mee moeten omgaan.
De auteur stelt dat discussiëren over de technologie, zonder de bestaande structuur aan te pakken of ter discussie te stellen, “de meest verfijnde vorm van machteloosheid” is.
De auteur gaat ook in op hoe AI wordt beleefd buiten het Westen. Volgens onderzoeksdata die Awomosu aanhaalt zegt 80 procent van de Indonesiërs dat AI meer voordelen dan nadelen heeft, en wendt 80 procent van de Gen Z-werkenden in Zuid-Korea zich als eerste tot AI bij werkuitdagingen. In India is bijna de helft van alle ChatGPT-gebruik afkomstig van 18- tot 24-jarigen, voor bijscholing en het zoeken naar een baan. In Latijns-Amerika bouwen gemeenschappen hun eigen taalmodellen omdat gangbare AI lokale talen en culturele context niet goed verwerkt. Awomosu benadrukt dat dit optimisme niet neerkomt op kritiekloos adopteren: dezelfde groepen die AI actief gebruiken, ontwikkelen ook kritische afstand ten opzichte van generieke of cultureel ontoereikende AI-output. Dat is, zo stelt zij, hoe ‘mediumgeletterdheid’ (kennis over hoe de technologie werkt; ik spreek liever over AI-fluency) er in de praktijk uitziet.
De auteur beschrijft onder het kopje “How They Keep You From Asking Questions” hoe techbedrijven en instituties specifieke mechanismen inzetten om te voorkomen dat we kritische vragen stellen over de technologie die we gebruiken. Ze stelt dat het wantrouwen of onbegrip rondom AI niet simpelweg een gebrek aan kennis is, maar een vorm van “capture” (gevangenschap).
Ze licht de volgende mechanismen toe:
- Algoritmische bevestiging (de ‘vissenkom’): Gebruikers worden geplaatst in “kleine vissenkommen rond hun hoofd”. AI-gestuurde platforms tonen ons voortdurend wat we al leuk vinden of geloven. In plaats van ons uit te dagen of ons bewustzijn te verruimen, is het systeem gebouwd om onze bestaande aannames continu te valideren.
- Economische afhankelijkheid: Gebruikers en content creators krijgen net genoeg kleine vergoedingen (“chump change”) om op de platforms te blijven produceren. Dit is bewust net genoeg om ze binnenboord te houden, maar te weinig om ze de onafhankelijkheid te geven om een eigen, legitiem bedrijf buiten het platform op te bouwen.
- Controle via Verwondering (“Awe”) en Schaamte (“Shame”): De auteur stelt dat verwondering en schaamte geen tegenpolen zijn, maar hetzelfde controlemechanisme dat in verschillende richtingen werkt.
- Verwondering leidt tot een betoverde afhankelijkheid; we zien de technologie als magie en adopteren het kritiekloos. Nota bene: verwondering hoeft m.i. niet persé positief te zijn. Ik schrijf wekelijks over AI-nieuws waarover ik me verwonder. Ik heb me daarbij laten inspireren door een uitdrukking van mijn oma: “Darüber soll man sich nicht ärgern, darüber soll man sich wundern”.
- Schaamte zorgt voor geheime afhankelijkheid. In het Westen verbieden veel scholen AI, wat ertoe leidt dat 86 tot 92% van de studenten het tóch gebruikt, maar erover liegt. De auteur vergelijkt dit met seksuele voorlichting die puur op onthouding is gericht: het gedrag stopt niet, maar de beschermende kennis ontbreekt.
- Het creëren van ‘metacognitieve luiheid’: Omdat het gebruik stiekem en zonder educatie (ongeletterd) plaatsvindt, leidt dit tot ‘metacognitieve luiheid’. Gebruikers denken minder kritisch na, reguleren zichzelf minder en ontwikkelen een blinde afhankelijkheid van het systeem. Ongeletterde, afhankelijke gebruikers zijn in feite het product.
- Verantwoordelijkheid afschuiven (het PR-draaiboek): Het aanpraten van schaamte is geen bescherming, maar een managementstrategie. De auteur vergelijkt dit met de “carbon footprint”-campagne van oliemaatschappij BP uit 2004: de focus wordt gelegd op de ethiek en de ‘schuld’ van de individuele consument (of lerende), waardoor de industriële architecten van het systeem buiten schot blijven.
Al deze mechanismen werken samen om de bestaande machtsstructuren intact te houden. Ze zijn specifiek ontworpen om te voorkomen dat de gebruiker de meest essentiële vraag leert stellen over het medium: “Wat ben jij, en wat doe je met mij?”.
De auteur gebruikt China voornamelijk als een krachtig contrast met het Westen (en specifiek de Verenigde Staten) om haar centrale stelling te bewijzen dat de uitkomsten van AI worden niet bepaald door de technologie zelf, maar door de bestaande maatschappelijke structuur waarin deze landt.
Ze refereert op de volgende specifieke manieren aan China:
- Een pragmatische houding zonder publieke weerstand: Waar westerse studenten boe roepen naar AI, is deze reactie in China (en andere delen van Azië) nagenoeg afwezig. In steden als Beijing wordt AI gezien als infrastructuur, een carrièremotor en een hulpmiddel voor studie en creatief werk. Een lezer (die een fabriek in China leidt) merkt in de reacties onder het stuk overigens wel op dat de realiteit op de werkvloer rommeliger is en dat er lokaal wel degelijk zorgen zijn, ook al uit zich dat niet in luid protest.
- Arbeidsbescherming als middel voor staatsstabiliteit: De auteur haalt een rechterlijke uitspraak uit 2025 uit Hangzhou aan, die bedrijven verbiedt om AI als juridische grondslag te gebruiken om werknemers te ontslaan. Ze benadrukt echter dat dit niet is gebaseerd op een deugdzaam geloof in werknemersrechten, maar op de behoefte aan stabiliteit. Vanwege de lessen uit het verleden (zoals het ontmantelen van het Danwei-systeem, dat werk aan sociale zekerheid bond) weet de Chinese staat dat werkloosheid tot massale onrust leidt. De bescherming van de werknemer is dus een manier om revolutie te voorkomen.
- Verplichte AI-geletterdheid als nationale strategie: Vanaf september 2025 heeft China verplicht AI-onderwijs ingevoerd voor kinderen vanaf zes jaar. In plaats van het gebruik stiekem te maken, worden kinderen systematisch getraind in kritisch denken, het herkennen van AI-output, en wordt er expliciet gewaarschuwd voor afhankelijkheid. Dit komt voort uit een historische benadering (vergelijkbaar met het keizerlijke examensysteem) waarin onderwijs wordt gezien als het opbouwen van nationale capaciteit.
- Groene eisen aan infrastructuur: In tegenstelling tot de VS, heeft China een nationaal mandaat dat nieuwe datacenters voor 80% op hernieuwbare energie moeten draaien. Computing wordt er beschouwd als een publieke nutsvoorziening. Dat is een duidelijke beleidskeuze.
- Innovatie door extreme efficiëntie (DeepSeek): De auteur verwijst naar het Chinese model DeepSeek, dat met beperkte hardware en een fractie van de westerse budgetten werd getraind. Ze plaatst dit in een historische context van ’technologieoverdracht als nationale overlevingsstrategie’. Chipsancties vanuit de VS veroorzaakten deze efficiëntie niet, maar versnelden slechts de Chinese structurele neiging om met minder middelen meer te doen.
- Gecentraliseerde controle zonder burgerinspraak: Tot slot is de auteur niet blind voor de schaduwzijde. Ze stelt vast dat de Chinese structuur gebaseerd is op centrale planning waarin burgers objecten van de administratie zijn, zonder onafhankelijke rechters of manieren om tegen het beleid in beroep te gaan. Omdat AI altijd de onderliggende structuur versterkt, neigt het medium in China dan ook van nature naar massale coördinatie, controle en efficiëntie.
In haar bijdrage illustreert Abi Awomosu ook wat ‘geëngageerd verzet’ (engaged resistance) historisch gezien inhoudt, en waarom simpelweg weigeren om een nieuwe technologie te gebruiken niet effectief is. Ze laat zien dat gemarginaliseerde gemeenschappen door de eeuwen heen machtige nieuwe media niet uit de weg gingen, maar zich deze juist toe-eigenden om tegen-instituties en parallelle publieke sferen te bouwen. Zij verwijst onder meer naar de auteur Buchi Emecheta die, nadat het heersende uitgeverijsysteem haar niet volledig diende, haar eigen uitgeverij (Ogwugwu Afor) oprichtte om de traditie van verhalen vertellen en het bewaren van geschiedenis te herwinnen. Een recent voorbeeld is Latam-GPT: toen bleek dat westerse modellen Latijns-Amerikaanse idiomen verkeerd interpreteerden en inheemse stemmen onzichtbaar maakten, wezen deze gemeenschappen AI niet af. Ze bouwden gewoon andere AI (Latam-GPT), getraind op regionale data, zodat de technologie ging dragen wat de bestaande modellen weigerden.
Awomosu stelt dat verzet zonder ‘mediumgeletterdheid’ een regelrecht cadeau is aan het huidige systeem. Het platform verandert telkens, maar de logica van de oplossing is steeds identiek: omdat officiële instituties onze kennis niet herbergen, bouwen we onze eigen netwerken in álle media die voorhanden zijn.
Mijn opmerkingen
Dit is een van de meest inhoudelijk gelaagde analyses van AI als maatschappelijk fenomeen die ik dit jaar heb gelezen. Awomosu verbindt mediatheorie (zoals het concept ‘grain’), politieke economie en onderwijsbeleid op een manier die zelden wordt gedaan. Zij wijst terecht op onderliggende structuren van AI en op de noodzaak deze structuren te kennen omdat hier belangrijke beperkingen van AI-technologie in schuilen. Dit gaat dus echter een stap verder dan de AI-geletterdheid waar we het vaak over hebben. Ik heb al vaker geschreven: het gaat om AI-fluency, niet om AI-geletterdheid.
Verder vind ik sterk dat zij de nadruk legt op AI-fluency en op een alternatief ontwerp van AI-technologie. Mensen kunnen beperkingen van AI reduceren door de technologieën door dacht te gebruiken. Maar we hebben ook ander ontworpen AI-technologieën nodig. Mooi is ook dat zij illustreert dat er alternatieven mogelijk zijn. In ons land denk ik bijvoorbeeld aan EduGenAI.
Daarnaast vind ik het onderscheid, dat Awomosu maakt, tussen AI als medium in plaats van ‘gereedschap’ boeiend. Een ‘medium’ wordt vaak gezien als een communicatiemiddel. Dat is echter een beperkte opvatting. Een gereedschap pak je op en leg je neer. Een communicatiemiddel gebruik je of niet. Volgens Awomosu bewoon je een medium, of het bewoont jou. AI is de omgeving geworden waar sociaal, economisch en kennisrijk leven zich afspeelt: het bepaalt wie er gehoord wordt, welke normen gelden en hoe collectief geheugen wordt opgebouwd. Net zoals de drukpers religieuze autoriteit herstructureerde en televisie de politiek vormgaf, herstructureert AI nu de productie en verspreiding van kennis. Bovendien sta je er niet buiten: zonder ook maar één AI-app te openen worden zaken als je zoekresultaten en sollicitaties al door AI bepaald. Afwijzen of blindelings omarmen zijn volgens haar daarom geen reële opties, mediumgeletterdheid wel.
Awomosu sluit hiermee aan op het werk van de bekende Canadese communicatiewetenschapper Marshall McLuhan’s. Hij stelde dat niet de inhoud van een medium maar de structuur ervan de samenleving vormt. De drukpers veranderde niet de wereld omdat er andere teksten in stonden, maar omdat ze de manier waarop mensen dachten, communiceerden en macht organiseerden, fundamenteel herstructureerde. Dat is precies wat Awomosu bedoelt met AI als medium: niet wat AI produceert, maar wat AI doet met hoe kennis wordt georganiseerd, wie er toegang toe heeft en welke normen worden opgelegd.
Awomosu verwijst in haar bijdrage ook naar McLuhan’s concept van “narcosis”: elk nieuw medium verdooft de vermogens die het uitbreidt, als je het zonder bewustzijn gebruikt. De televisie vormde een uitbreiding van ons oog op de wereld, maar verdoofde tevens kritische afstand tot beelden. Awomosu’s “grain” is in wezen een uitwerking van dit narcose-concept. Wie AI gebruikt zonder te begrijpen wat het met hem doet, wordt onderdeel van het medium in plaats van gebruiker ervan.
Nieuw is wel de politieke dimensie die Awomosu schestt. Volgens haar is AI als medium niet neutraal, maar komt het voort en komt het terecht in bestaande machtstructuren die het vervolgens versterkt. Dat is een meer uitgesproken politiek-economische analyse dan McLuhan doorgaans maakte, al is de opvatting van Awomosu niet echt strijdig met McLuhan.
Zelf deel ik de mening van degenen die AI typeren als “systeemtechnologie”. Daarbij gaat het om technologieën die niet één sector veranderen maar de hele economische en maatschappelijke infrastructuur ingrijpend herordenen. De stoommachine, elektriciteit en het internet zijn bekende voorbeelden: ze veranderden niet alleen wat er werd geproduceerd, maar hoe productie, transport, communicatie en arbeid als systeem waren georganiseerd. Het duurt vaak even voordat een systeemtechnologie breed is geadopteerd. Daarna worden de effecten breed voelbaar, net als spanningen en conflicten.
Awomosu’s opvatting van AI als medium is m.i. ook hiermee grotendeels verenigbaar. De systeemtechnologie-opvatting beschrijft primair economische en infrastructurele herordening: hoe kapitaal stroomt, hoe arbeid wordt georganiseerd, hoe sectoren worden geraakt. Awomosu beschrijft hoe kennis wordt geproduceerd, wie er mag spreken, hoe mensen zichzelf en de wereld begrijpen. Het is m.i. een aanvullende invalshoek. Systeemtechnologieën fungeren als infrastructuur waarop andere activiteiten worden gebouwd. AI kun je ook gebruiken zonder specifieke apps te gebruiken. Veel gebruikers hebben zelfs niet door als zij AI-technologie gebruiken. Dat illustreert feitelijk het infrastructurele karakter van een systeemtechnologie.
Mensen die uitgaan van AI als systeemtechnologie leggen vaak de nadruk op de staat als regulator. Awomosu wijst daarbij ook op de rol van individuen en gemeenschappen als actieve vormgevers van het medium. Beide perspectieven samen geven een vollediger beeld dan elk afzonderlijk: de systeemtechnologie-opvatting verklaart de schaal en onvermijdelijkheid van de verschuiving, de mediumtheorie verklaart waarom die verschuiving niet alleen een economisch maar ook een cognitief en politiek project is. Onvermijdelijk, maar wel beïnvloedbaar. Complex beïnvloedbaar, maar wel beïnvloedbaar. Dat is hoopvol.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel