Verdwijnt de kritische blik op grote taalmodellen?
Naarmate toepassingen rond generatieve AI betrouwbaarder worden en geruisloos opgaan in bestaande software, verdwijnt de zichtbaarheid van de onderliggende techniek naar de achtergrond. Leon Furze waarschuwt in een recente bijdrage dat hiermee ook de mogelijkheid voor kritische reflectie binnen het onderwijs snel kleiner wordt. Ik heb sterke twijfels bij zijn analyse.
Furze baseert zijn betoog op patronen uit de technologiegeschiedenis. Nieuwe infrastructurele systemen –zoals elektriciteit, telefonie en het internet– kennen in hun beginfase een rommelige en zichtbare opbouwperiode. In die fase liggen kabels letterlijk open en bloot, en is de maatschappelijke discussie over milieu-impact, wetgeving en risico’s scherp en levendig. Als voorbeeld noemt de auteur een Australisch senaatsonderzoek uit 1996 naar telecomaanbieder Telstra. Daarin werd fel gedebatteerd over de invloed van zendmasten en bekabeling op het landschap, inclusief juridische procedures tot aan het hooggerechtshof toe. Uiteindelijk verdween het publieke protest zonder dat de wetgeving ingrijpend veranderde. De reden: het netwerk ging simpelweg functioneren. Zodra een techniek betrouwbaar en gebruiksvriendelijk wordt, verdwijnt de bekabeling achter de muren en stopt de inhoudelijke discussie over de neveneffecten. Een vergelijkbaar fenomeen deed zich voor in september 2025 bij kabelbreuken in de Rode Zee. Gebruikers klaagden over tragere verbindingen, maar stelden geen fundamentele vragen meer over de geopolitieke afhankelijkheid van de cloud.
Volgens Furze bevindt AI zich momenteel op een vergelijkbaar kantelpunt. Waar de technologie eerder vooral zichtbaar was via aparte interfaces zoals chatbots, verschuift het veld naar zogeheten AI-agents. Hoewel verschillende technologiebedrijven eigen definities hanteren, volgt Furze de omschrijving van Simon Willison: een agent is een groot taalmodel dat zelfstandig computertools in een cyclus aanstuurt om een doel te bereiken. Op dit moment oogt de werking van dergelijke agents voor de gebruiker nog complex en technisch. Werkprocessen via terminalschermen, scrollende programmacode en zichtbare tool-aanroepen maken inzichtelijk wat het model precies uitvoert.
Deze fase zorgt volgens Furze echter voor terughoudendheid bij het grote publiek. Terwijl chatbots zoals ChatGPT en Gemini circa een miljard maandelijkse gebruikers tellen, bereiken agent-gebaseerde tools zoals OpenAI Codex, ChatGPT Work en Claude Code gezamenlijk een fractie van dit aantal gebruikers.
Technologieontwikkelaars werken er daarom hard aan om deze complexiteit te maskeren. Als voorbeeld geldt ‘Dia’, een browseromgeving van The Browser Company waarin een AI-agent de agenda en e-mails van de gebruiker analyseert en geruisloos een dagoverzicht samenstelt. De gebruiker ervaart direct resultaat, zonder ooit te zien dat er op de achtergrond een agent actief is.
Furze stelt dat deze overgang naar naadloos design een schaduwzijde kent. Wanneer de techniek naar de achtergrond verdwijnt en ‘gewoon werkt’, neemt de bereidheid af om kritische vragen te stellen over datagebruik, energieverbruik, auteursrecht en trainingsmethoden. Hij spreekt van een ruilhandel waarbij kritisch inzicht wordt ingeleverd voor gebruikersgemak.
Voor het onderwijs ziet Furze hier een specifieke taak. De afgelopen jaren richtte de discussie in scholen en universiteiten zich primair op de vraag: ‘wat kan het?’ Wanneer bedrijven die functionaliteit onzichtbaar integreren in standaard werkomgevingen, wordt die vraag automatisch beantwoord door slim productontwerp. Furze bepleit daarom dat het onderwijs actief weerstand moet bieden aan het blind accepteren van gladgestreken interfaces. Docenten en instellingen moeten de werking van de systemen zichtbaar blijven maken, zodat lerenden en medewerkers blijven begrijpen hoe uitkomsten tot stand komen en welke kosten daaraan verbonden zijn. De huidige, nog deels ongemakkelijke fase biedt volgens hem de laatste kans om AI kritisch te bestuderen voordat de technologie zichzelf definitief aan het zicht onttrekt
Mijn opmerkingen
Ik heb moeite met de analyse van Furze. Al bij de lancering van de large language modellen werd er fundamentele kritiek geuit, bijvoorbeeld als het gaat om het enorme verbruik van energie en water om deze modellen te trainen. Deze kritiek is nog niet gaan luwen, en ik zie dat voorlopig ook niet gebeuren. Dat uit zich bijvoorbeeld in het verzet tegen de bouw van grote datacentra. Bij de opkomst van het internet werden beperkingen en nadelen -zoals het verslavende karakter van sociale media en de afhankelijkheid van big tech- m.i. pas na verschillende jaren duidelijk. De toonzetting bij de adoptie van generatieve AI-toepassingen was op voorhand niet uitsluitend juichend. Ik heb persoonlijk ook nog nooit een technologische ontwikkeling meegemaakt die zo’n positieve potentie, maar tegelijkertijd ook grote nadelen en risico’s kent. Dat zag je naar mijn mening snel in diverse bijdragen terug.
Daarbij speelt ook dat mensen -in tegenstelling tot bijvoorbeeld telefonie en internet- niet alleen gebruikersgemak en nut ervaren, maar ook persoonlijke nadelen vrezen (bijvoorbeeld stroomtekorten). Anders dan bijvoorbeeld het stralingsgevaar van mobiele telefoniemasten, zijn de risico’s van generatieve AI wel heel reëel. Veel mensen zijn zich daar ook van bewust.
In dit verband wordt ook vaak verwezen naar Gartner’s hypecycle of emerging technologies. Dit is een manier om technologische ontwikkelingen te beschrijven, maar geen empirisch onderbouwde wetmatigheid. Veel technologieën volgen de curve niet: e-mail, gps en zonnepanelen groeiden geleidelijk zonder piek, 3D-televisie en Google Glass verdwenen in het dal, terwijl QR-codes en diverse AI-toepassingen meerdere cycli doorliepen. Er is dus regelmatig sprake van een veel grilliger verloop. Bovendien ‘meet’ de verticale as verwachtingen, geen gebruik.
Het is de vraag of large language modellen deze cyclus wel doorlopen. Bij de lancering van ChatGPT was zeker niet alleen sprake van hooggespannen verwachtingen, maar waren er ook al meteen signalen van desillusie. Dat is eigenlijk niet veranderd. Wel is onze kennis van mogelijkheden, voordelen, beperkingen en nadelen van LLM’s toegenomen. Daarnaast ligt het gebruik van generatieve AI-toepassingen onverminderd hoog, zelfs al rapporteren verschillende bedrijven dat de productiviteit vooralsnog niet toeneemt en het de vraag is of kosten en beperkingen opwegen tegen de voordelen. LLM’s zijn ook geen enkelvoudige technologie. Verder kan de context van invloed zijn op de vraag of een toepassing positieve impact heeft, of niet. Het kan best zo zijn dat de ene toepassing bij organisatie A wel meerwaarde heeft, maar een andere toepassing bij organisatie B niet.
We zijn wat mij betreft dan ook nog zeker niet op een kantelpunt aangekomen waarin generatieve AI ‘gewoon werkt’ en er geen kritische vragen over de negatieve aspecten meer worden gesteld. Dat is wat mij betreft ook prima.
Wat bij mij als het gaat om AI-agents persoonlijk ook speelt -en ik vermoed dat ik daarin niet uniek ben- is dat ik grote aarzelingen heb om bijvoorbeeld Claude Cowork toegang te geven tot data waarin bijvoorbeeld persoonsgegevens of ‘bedrijfsgevoelige’ data staan. Ik zou meer baat kunnen hebben van Claude Cowork als ik deze applicatie toegang zou geven tot alle bestanden en applicaties op mijn Macbook. Ik heb echter als zzp’er een Pro-account en heb geen verwerkersovereenkomst van Anthropic afgesloten, dat bovendien data buiten de Europese Economische Ruimte bewaard. Wellicht dat het achterblijven van het gebruik van agents daar ook mee te maken heeft, en niet alleen met een complexe en technische werking (wat bij Claude Cowork overigens sterk meevalt).
Ik deel wel Leon Furze’s pleidooi om als onderwijs actief weerstand te bieden aan het blind accepteren van gladgestreken interfaces, en om de werking van de systemen zichtbaar te blijven maken en aan kritische reflecties te onderwerpen. Juist ook omdat grote taalmodellen schadelijk kunnen zijn voor het leren.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel