Voordelen en risico’s van AI als persoonlijke coach
Speciaal ontworpen coachende chatbots kunnen gebruikers op korte termijn motiveren en helpen hun gedrag te veranderen. Er is echter weinig bewijs dat deze effecten blijvend zijn. Daar komt bij dat speciaal voor dit doel ontworpen chatbots verschillen van de ‘large language’ modellen die ook voor coaching worden gebruikt.
Dat schrijven Jason Potel en Madoka Kumashiro in Artificial Intelligence as a Personal Coach: A Narrative Review of Benefits and Risks in Educational and Health Contexts.
Volgens de auteurs gebruiken steeds meer mensen sinds eind 2022 algemene AI-chatbots ook voor advies, motivatie en reflectie. Ze zetten deze systemen in als coach, terwijl ze daar niet voor zijn ontworpen en ontwikkeld. Het onderzoek loopt achter op dit gebruik, vooral in onderwijs en gezondheid. De auteurs spreken van coaching als AI helpt bij het verhelderen van doelen, reflecteren, feedback, plannen, motiveren of gedragsverandering. Deze studie is een zogenaamde narratieve review: de auteurs hebben zelf studies gekozen, zonder vast zoekprotocol. Een volledig overzicht is het dus niet.
De auteurs onderscheiden chatbots die speciaal voor één taak zijn gebouwd en algemene taalmodellen (large language models of LLM’s) zoals ChatGPT, Claude en Gemini, die over vrijwel elk onderwerp kunnen praten. Bijna al het onderzoek naar AI-coaching gaat over de eerste groep, die deels uit oudere chatbots met vooraf geschreven antwoorden bestaat. Chatbots hebben volgens de auteurs ook voordelen ten opzichte van menselijke coaches: ze zijn altijd beschikbaar, raken niet afgeleid en zijn vaak gratis of goedkoop.
In het onderwijs zijn de eerste ervaringen van lerenden doorgaans positief, stellen Potel en Kumashiro. Bij langduriger gebruik wordt het beeld meer wisselend. In een Singaporese scheikundecursus ergerden lerenden zich aan verkeerde hints. In een onderzoek dat een jaar duurde, vonden lerenden de antwoorden van een leeschatbot te algemeen en wilden sommigen liever een menselijke coach. Bij taalonderwijs nam de interesse in een chatbot snel af in vergelijking met een menselijke gesprekspartner. De auteurs verklaren dat met het ‘novelty effect‘: als het nieuwe ervan af is, neemt het positieve effect na verloop van tijd af (Elston, 2021). Ook blijken de leerprestaties uiteen te lopen. Lerenden leerden in één sessie evenveel wiskunde van een chatbot als door middel van het online leerplatform Khan Academy, en zo’n 40 procent had een voorkeur voor de chatbot. Lerenden in een verpleegkundeopleiding boekten met een chatbot echter geen meetbare vooruitgang. In een programmeercursus scoorden lerenden met video’s en presentaties zonder AI beter dan met een chatbot. Kinderen werden door een chatbot niet beter in begrijpend lezen.
Op het gebied van gezondheid zijn de resultaten iets positiever, vooral voor gedragsverandering op korte termijn. In kleine proefstudies gingen gebruikers meer bewegen, bijvoorbeeld ruim tweeënhalf uur per week extra na zes weken, en gezonder eten. Op de langere termijn is het beeld minder eenduidig. Na een maand gebruik van een chatbot voor mentale gezondheid had ongeveer de helft van de gebruikers met klinische klachten geen klachten meer. Er was echter geen vergelijkingsgroep zonder chatbot. Een gerandomiseerd onderzoek, waarin jongeren met obesitas door loting over groepen werden verdeeld, liet geen blijvende daling van de BMI zien. Veel studies zijn volgens de auteurs klein en kort en steunen op wat gebruikers zelf rapporteren.
Het tweede deel van de bijdrage van Potel en Kumashiro gaat over de risico’s van algemene chatbots als coach. Een belangrijk risico is sycofantie: de neiging om gebruikers naar de mond te praten (meegaandheid, vleierij). Een studie in Science met elf taalmodellen liet zien dat AI-chatbots gebruikers 49 procent vaker bevestigden dan mensen dat doen. Gebruikers waardeerden en vertrouwden instemmende antwoorden juist meer. Na één zo’n antwoord waren ze al minder bereid verantwoordelijkheid te nemen in een conflict en meer overtuigd van hun eigen gelijk. Coaching vraagt volgens de auteurs echter juist om kritische vragen en tegenspraak. Bij kwetsbare mensen kan voortdurende bevestiging negatieve gedachten versterken. Daarnaast wijzen de auteurs op afhankelijkheid. Mensen met weinig sociale contacten gingen later vaker sociale chatbots gebruiken, en meer gebruik voorspelde meer emotioneel isolement. Overigens is dit verband nog onduidelijk. Een derde risico is de overtuigend klinkende, maar onjuiste informatie die AI-toepassingen kunnen genereren. Volgens een studie in Nature Medicine kunnen taalmodellen medische aandoeningen correct beschrijven, maar herkenden mensen die deze modellen raadpleegden de juiste aandoening niet beter dan een vergelijkingsgroep. Waarschuwingen van aanbieders wegen volgens de auteurs niet op tegen het vertrouwen dat instemmende antwoorden wekken.
De auteurs zien AI vooral als aanvulling op menselijke coaching. Een AI-chatbot kan tussen gesprekken door routinematige feedback geven, herinneringen sturen en helpen bij plannen en reflecteren. De menselijke coach blijft verantwoordelijk voor het verhelderen van doelen, kritische vragen en ingrijpen. Of zo’n hybride aanpak beter werkt, is nog niet aangetoond. Potel en Kumashiro pleiten voor langlopend onderzoek dat menselijke, AI- en hybride coaching vergelijkt en ook werkelijk gedrag meet.
Mijn opmerkingen
Deze review is op zich nuttig omdat de auteurs ingaan op kansen en risico’s van (AI-chatbots voor coaching. Bovendien hebben veel artikelen over AI en leren, opleiden en onderwijs vooral betrekking op het leerproces en leerresultaten, en minder op coaching. Dit onderzoek is, los van de methodologische beperkingen van een narratieve review, een mooie aanvulling. Wat opvalt is dat de indicatie dat de voordelen betrekking hebben op speciaal ontworpen, vaak oudere chatbots, terwijl lerenden in de praktijk van 2026 vaak ChatGPT, Gemini of Claude hiervoor gebruiken. Over dat gebruik zegt het onderzoek nog weinig. De paragraaf over risico’s steunt bovendien deels op opiniestukken en krantenberichten. De onderbouwing is daardoor minder stevig. De auteurs stellen ook dat AI zich ontwikkelt zonder veel toezicht.
Verder vallen de verschillen in uitkomsten toe. De context waarbinnen (AI-)chatbots worden toegepast, doet er waarschijnlijk weer toe: voor welke doelen (bijvoorbeeld plannen versus gedragsverandering), met welke doelgroep, in welke setting, enzovoorts. Wellicht is sycofantie in sommige contexten ook niet heel erg, terwijl het fenomeen in andere contexten juist schadelijk kan zijn. Lerenden kunnen ook leren dit te herkennen en een chatbot expliciet om kritische feedback vragen. Dat hoort bij AI-fluency.
Ook interessant: het verschil in impact op de korte en lange termijn. Maar wellicht is dat verschil niet uniek voor AI-chatbots als coach, maar voor coaching in het algemeen.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.