Het is een gereedschap. Het is een assistent. Het is een generatieve AI-model.
It’s a Bird… It’s a Plane… It’s Superman. Deze associatie kreeg ik toen ik Jon Dron’s bijdrage Some things I have learned about generative AI las. Met bovenstaande titel als resultaat. Generatieve AI is volgens Dron geen mens en geen gereedschap, maar een nieuw soort technologie die zelf gereedschap gebruikt. Een nieuw soort technologie die ook vraagt om andere keuzes op het gebied van onderwijs en beoordelen.
Volgens Dron moeten we grote taalmodellen niet behandelen alsof ze menselijk zijn, maar ook niet alsof ze dat helemaal niet zijn. De kennis van een taalmodel is geen menselijke kennis, maar tegelijk bijna volledig opgebouwd uit menselijke betekenisgeving: woorden, beelden, muziek en code, samengebracht en gecomprimeerd met een dun laagje structuur eroverheen. Wie AI afdoet als stochastische papegaai, of juist als stap richting AGI, mist daarom het punt, meent Dron. Volgens de auteur is onze cognitie letterlijk uitgestrekt over de middelen die we gebruiken; we vormen onze zinnen en daarna vormen die zinnen ons (herken je de befaamde uitspraak We Shape Our Tools, and Thereafter Our Tools Shape Us)
Dron stelt dat generatieve AI meestal geen gereedschap is, maar een gebruiker van gereedschap. Een gereedschap breidt onze mogelijkheden uit, terwijl AI ze vervangt. Onze prompts sturen het model, maar die controle lijkt volgens hem meer op die over een hond dan op die over een hamer. Hij stelt de term metatool voor: de eerste technologie die zelf gereedschap gebruikt. Hij erkent dat modellen subdoelen kunnen formuleren waarop wij geen invloed hebben. Ook de vergelijking met een partner of assistent wijst hij af. AI heeft geen blijvende identiteit, geen bewustzijn, geen moreel begrip en niets te verliezen. Een echte relatie is er niet mee mogelijk, hooguit de illusie daarvan: met één korte prompt verandert de “persoon” in iemand anders. Een aan-knop en de opdracht om te vergeten maken het fundamenteel anders.
De term cognitive offloading vindt Dron misleidend; hij spreekt liever van herverdeling van denkwerk. AI maakt denken op een grovere schaal mogelijk, maar vergroot ook de verleiding om minder te denken, vooral bij onaantrekkelijke taken. Zelf ervaart hij vaak juist meer cognitieve belasting, omdat hij chatbots zo instelt dat ze hem uitdagen. Gemini sluit af met een vraag, ChatGPT vermijdt gevlei en Claude is ingesteld om hem te leren kennen en verbanden te leggen met eerder werk. Hij schrijft nauwelijks nog zelf code, maar leert wel andere manieren van programmeren, omdat het formuleren van wat hij wil al een leeractiviteit is.
Voor het onderwijs trekt Dron ook conclusies. Traditionele opdrachten en toetsen zijn volgens hem al of binnenkort geen bewijs van leren meer. Omdat de meeste lerenden juist proberen niet te frauderen, ligt de oplossing in het wegnemen van prikkels: het afschaffen van beoordelingen (‘ungrading’) in de meeste gevallen, het loskoppelen van diploma’s en leren, en integratieve beoordelingen waarin uiteenlopende vaardigheden samenkomen.
Verder ervaart Dron AI als een soort expert-vriend die altijd beschikbaar is. Met behulp van AI bouwde hij in tien minuten een werkende webconferentie-applicatie; de configuratieproblemen die hem voorheen uren hadden gekost, loste hij in minuten op. Zo opent AI volgens hem aangrenzende mogelijkheden die anders uit zicht bleven. Het beeld van humans in the loop wijst hij af; AI hoort volgens hem in een netwerk van mensen, gereedschappen, methoden en theorieën. Bij agents met toegangsrechten en zelfstandige beslissingen noemt hij menselijk toezicht wel degelijk van belang.
Tot slot nuanceert hij het milieudebat. Datacentra zijn energievretend en schadelijk, maar simpele afwegingen schieten tekort: ook ambulances en MRI-scanners verbruiken veel energie. Zolang we niet meewegen wat het gebruik oplevert en welke efficiëntiewinst optreedt, blijven de afwegingen volgens Dron complexer dan vaak wordt gesuggereerd.
Mijn opmerkingen
Het onderscheid tussen gereedschap en gebruiker van gereedschap is bruikbaar, omdat het duidelijk maakt waarom AI als hulpmiddel te gemakkelijk klinkt. Het begrip metatool blijft wel vooral een denkraam. We kunnen er nog weinig handelingsperspectief aan ontlenen.
Wat betreft de uitspraak ‘We shape our sentences then (perhaps simultaneously) they shape us’: mensen creëren inderdaad taal, en vervolgens vormt de taal mensen. Technologieën -ook metatools of systeem technologieën- ontstaan uit menselijke behoeften, maar veranderen vervolgens de mensen die het gebruiken. Ze beïnvloeden ons gedrag.
Ze beïnvloeden ook de wijze waarop we doceren en leren (of zouden moeten beïnvloeden). Dron heeft dan ook een punt als hij wijst op de noodzaak van curriculumverandering. Ik heb daar ook regelmatig op gewezen. Het afschaffen van beoordelingssystemen en het loskoppelen van diploma’s is echter niet zomaar te realiseren. Examens in het mbo zijn wettelijk geregeld en gekoppeld aan kwalificatiedossiers, en een diploma heeft een maatschappelijke functie. Je ziet wel, ook los van het gebruik van AI-technologie, een tendens richting integratief beoordelen, holistisch beoordelen en programmatisch toetsen.
Verder valt op dat Dron in zijn typering van GenAI vooral aan zijn eigen werkwijze refereert. Hij is echter een ervaren academicus die AI-chatbots bewust zo instelt dat ze hem uitdagen. Herverdeling van denkwerk pakt alleen goed uit als je weet wat je verdeelt. Als je weet wat effectieve leerstrategieën zijn, als je zelfgestuurd kunt leren en zeer gemotiveerd bent om te leren (en niet alleen om korte termijn leerresultaten te behalen). Bij lerenden met minder voorkennis en minder regie over hun eigen leerproces, bijvoorbeeld in het mbo, is die voorwaarde minder vanzelfsprekend. De vraag welke vaardigheden lerenden zelf moeten beheersen, blijft daarmee open. Dron wijst niet op het belang van AI-geletterdheid, laat staan AI-fluency.
Als het gaat om het milieudebat, is de vergelijking met ambulances en MRI-scanners discutabel, omdat die een aantoonbaar maatschappelijk doel dienen en veel AI-gebruik dat niet heeft.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel