Bloggers

Over de kracht van ChatGPT’s geheugen en de noodzaak van een nieuwe manier van prompting

Volgens Stefan Bauschard zal de manier waarop we met AI omgaan veranderen als gevolg van ChatGPT’s vermogen om eerdere gesprekken te onthouden (andere GenAI-toepassingen zullen ongetwijfeld volgen).

In plaats van steeds nieuwe instructies te schrijven, wordt volgens Bauschard het opbouwen van een corpus – een verzameling informatie die de AI onthoudt en gebruikt – belangrijker. Hij illustreert aan de hand van een eigen ervaring.  Bauschard stelde ChatGP per abuis een onvolledige vraag. Toch kon ChatGPT het gewenste antwoord geven op basis van eerder gevoerde gesprekken. Dit gebeurde zonder verzonnen informatie te genereren.

Deze ontwikkeling vraagt volgens hem om een verschuiving in het onderwijs: van “een goede prompt schrijven” naar “een kennisbank samenstellen”. Docenten kunnen lerenden begeleiden bij het vormen van AI-geheugen door:

• Onjuiste informatie te corrigeren.
• Belangrijke definities te markeren.
• Irrelevante gegevens te verwijderen.

De auteur illustreert dit aan de hand van twee verschillende benaderingen bij geschiedenisonderwijs. Bij de eerste benadering gebruikt de docent telkens een nieuwe chat met een lange instructie, waarbij elke sessie opnieuw begint. In de tweede variant is er een doorlopende chat met een verzameling bronmateriaal dat lerenden zelf hebben toegevoegd en gemarkeerd. Als een lerende dan een vraag stelt, gebruikt de AI-toepassing deze betrouwbare bronnen in plaats van willekeurige informatie waarmee de applicatie is getraind. Dit proces lijkt volgens Bauschard op wat bibliothecarissen doen: verzamelen (beslissen wat waardevol is), catalogiseren (alles labelen zodat het later teruggevonden kan worden) en opschonen (verouderde of onjuiste informatie bijwerken).

De didactische voordelen zijn volgens hem aanzienlijk:

• Vermindering van onjuiste informatie doordat de AI-toepassing eerst vertrouwde bronnen raadpleegt.
• Betere reproduceerbaarheid van resultaten.
• Ontwikkeling van moderne vaardigheden voor het beheren van ‘kennis’ door lerenden.
• Meer controle voor lerenden – ze zien direct hoe hun keuzes bij het labelen en organiseren de antwoorden beïnvloeden.

Deze aanpak brengt echter ook uitdagingen met zich mee:

• Twee personen die dezelfde vraag stellen kunnen verschillende antwoorden krijgen als hun persoonlijke ‘geheugen’ verschilt. Dit kan problematisch zijn voor onderzoek en debat, waar reproduceerbaarheid belangrijk is.
• Langdurig gebruik kan leiden tot een vaste schrijfstijl of denkpatroon, waardoor diversiteit in ideeën afneemt.
• Het bouwen van grotere projecten wordt eenvoudiger, maar ook kwetsbaar voor fouten die doorwerken in latere versies.
• Gebruik van persoonlijke gegevens in het geheugen brengt risico’s voor privacy met zich mee.
• Gebruikers kunnen onbedoeld emotioneel afhankelijk raken van de AI.
• Geheugen vormt een nieuwe ingang voor misleiding, bijvoorbeeld via subtiele manipulaties.

Mijn opmerkingen

ChatGPT is de eerste applicatie die op deze manier gaat werken. Anderen volgen ongetwijfeld. Ik heb zelf de betreffende optie vooralsnog uitgezet, omdat ik het ook weleens fijn vind om met een schone lei te beginnen. Bovendien kan deze optie een vorm van ‘vendor lock in’ stimuleren: als je eenmaal ergens een uitgebreid geheugen hebt opgebouwd, wordt het moeilijk om over te stappen naar een concurrent. Je kunt een geheugen namelijk niet mee nemen naar een andere AI-applicatie.

Ik ben ook huiverig om dit soort systemen te voeden met data, ook al doe ik mijn best om geen (privacy)gevoelige informatie erin te plaatsen.  Verder vind ik het argument dat je AI-toepassingen kunt voeden met onjuiste informatie van belang, evenals een gebrek aan diversiteit. Anderzijds merk je nu al dat AI-toepassingen rekening houden met jouw profiel en stijl. Al gaat de nieuwe geheugenoptie van ChatGPT weer een stap verder. Mogelijk kies ik er voor om bij ChatGPT wel gesprekken te laten onthouden, en bij Claude niet. Zodat ik kan vergelijken. We zitten namelijk nog midden in een leerproces.

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

 

The post Over de kracht van ChatGPT’s geheugen en de noodzaak van een nieuwe manier van prompting first appeared on WilfredRubens.com over leren en ICT.
Lees het hele artikel