Controle houden en cognitieve luiheid voorkomen
Drie recente artikelen belichten verschillende aspecten van de invloed van AI op het onderwijs en cognitieve processen. De rode draad tussen deze publicaties is de waarschuwing tegen het onkritisch omarmen van AI-metaforen die menselijk leren en denken verkeerd voorstellen, en het houden van controle over het gebruik van AI-toepassingen.
Iddo Gefen, cognitief neurowetenschapper aan Columbia University, stelt in zijn artikel “Conflating AI With Human Cognition Is Bad for Education” dat uitspraken van AI-leiders zoals Jensen Huang (Nvidia) en Ilya Sutskever (mede-oprichter OpenAI) over de gelijkenissen tussen menselijke en AI gevaarlijk misleidend zijn. Huang beweerde dat het programmeren van AI vergelijkbaar is met het programmeren van een persoon, terwijl Sutskever stelde dat het brein een biologische computer is.
Gefen waarschuwt dat dergelijke metaforen ons begrip van ons eigen brein vertroebelen. Historisch gezien hebben technologische revoluties geleid tot vergelijkbare misvattingen – van de geest als “blank slate” in de 17e eeuw tot de “black box” benadering in de vroege 20e eeuw. Deze conceptuele fouten hebben volgens hem bijgedragen aan rigide onderwijssystemen die neurodivergente lerenden benadeelden en geestelijke gezondheidszorg die zich richtte op symptoombeheersing in plaats van onderliggende oorzaken.
Digitale onderwijstools die zijn geïnspireerd door AI-trainingsmethoden passen lessen en vragen aan op basis van antwoorden van lerenden om hen op een optimaal leerniveau te houden. Deze benadering kan indrukwekkende resultaten opleveren, maar negeert minder meetbare factoren zoals motivatie en passie.
Gefen illustreert dit met een voorbeeld van twee kinderen die piano leren via een slimme app. Het ene kind leert snel foutloos spelen maar heeft een hekel aan elke oefensessie, terwijl het andere constant fouten maakt maar geniet van elke minuut. Bij beoordeling volgens AI-criteria zou het eerste kind beter presteren, maar waarschijnlijk zal het kind dat plezier heeft over tien jaar nog steeds hebben.
De neurowetenschapper benadrukt dat het onderwijzen van kinderen verschilt van het trainen van AI-algoritmes. Als we lerenden alleen beoordelen op wat kan worden “getraind” en “afgesteld”, herhalen we de oude fout van output boven ervaring te stellen. Hij benadrukt ook dat het doorbreken van patronen en toevallige fouten vaak leiden tot grote ontdekkingen, zoals de vondst van penicilline. Ons brein profiteert van dagdromen via het “default mode network”. Dat is een groep hersengebieden die actief wordt tijdens dagdromen en niet-gerichte activiteit. Dit netwerk speelt een rol bij reflectie op het verleden, verbeelding en denken over onszelf en anderen. Het negeren van dergelijk wegdromend gedrag dat creativiteit en zelfreflectie stimuleert kan leiden tot gebrekkige systemen in onder meer het onderwijs.
Dr. Tina Evans bespreekt in “Artificial Intelligence and Critical Thinking in Higher Education” hoe docenten lerenden kunnen voorbereiden op AI-gebruik door kritisch denken te ontwikkelen. Zij verwijst naar het model van Paul en Elder, dat kritisch denken definieert als “de kunst van het analyseren en evalueren van denkprocessen met het oog op verbetering”.
Evans stelt dat AI een desoriënterend dilemma creëert volgens Mezirow’s theorie van transformatief leren. Het bepalen van feit versus fictie wordt een vaardigheid die docenten hun lerenden moeten leren beheersen. Docenten kunnen volgens haar drie strategieën gebruiken om lerenden kritisch denken te leren in het AI-tijdperk. Ten eerste moeten ze hun eigen denkvaardigheden verbeteren door bewust om te gaan met AI, resultaten te controleren op juistheid en bias, en meerdere bronnen te vergelijken. Ten tweede kunnen ze kritisch denken modelleren door lerenden uit te dagen met doordachte vragen over de validiteit en relevantie van AI-output. Ten derde kunnen docenten AI nuttig inzetten voor het maken van lesplannen, rubrieken en het verbeteren van teksten, waarbij ze altijd kritisch blijven evalueren of het resultaat geschikt is voor hun doelen.
Het gebruik van AI moet helder en doelgericht zijn. Resultaten moeten worden geanalyseerd op nauwkeurigheid, logica en vooringenomenheid, en vergeleken met meerdere bronnen. Evans waarschuwt dat studenten voor het eerst geloven dat ze de beste resultaten kunnen behalen door het leerproces volledig uit te besteden aan AI, vaak ten koste van reflectie en oprecht begrip.
Greg Shove, CEO van Section, introduceert in “Why AI is making us lose our minds” een belangrijk onderscheid voor de toekomst van kenniswerk. Hij voorspelt dat de beroepsbevolking zich zal verdelen in twee groepen: AI-bestuurders en AI-passagiers.
AI-passagiers zullen hun cognitieve werk delegeren aan AI door prompts in ChatGPT te plakken en de resultaten als hun eigen werk in te leveren. Hoewel ze op korte termijn beloond worden voor sneller werk, zullen ze uiteindelijk als overbodig worden beschouwd omdat ze niets toevoegen aan AI-output.
AI-bestuurders daarentegen zullen erop aandringen AI te sturen, het gebruiken als eerste concept en het werk drastisch controleren. Zij zullen AI soms uitschakelen en tijd maken om te denken. Op lange termijn zal de economische kloof tussen deze groepen dramatisch toenemen.
Shove adviseert om de baas te blijven over AI: gebruik het alleen op gebieden waar je expertise hebt, voer gesprekken in plaats van directe vragen te stellen, blijf kritisch en sceptisch over de output, schrijf zelf eerste concepten, en neem altijd zelf de eindverantwoordelijkheid voor belangrijke beslissingen.
Mijn opmerkingen
Alle drie de artikelen hebben een waarschuwend karakter. Gefen waarschuwt voor de implicaties van het verkeerde gebruik van metaforen. Leerprocessen van mensen zijn complex en lastig te vergelijken met, bijvoorbeeld, de werking van een computer. Evens benadrukt het belang van kritisch denken bij het gebruik van AI-toepassingen. Shove vindt het belangrijk dat gebruikers van AI-toepassingen geen passieve consumenten, maar actoren die zelf sturing geven aan en controle hebben over het gebruik van AI-toepassingen. Je kunt sommige cognitieven taken best uitbesteden aan AI. We moeten als mens immers al heel wat cognitieve taken uitvoeren. Het behoud van cognitieve vaardigheden en kritisch denken is echter van wezenlijk belang. Cognitieve luiheid moeten we dan ook voorkomen.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.
The post
Controle houden en cognitieve luiheid voorkomen first appeared on
WilfredRubens.com over leren en ICT.
Lees het hele
artikel