Bloggers

Het geheugen van ChatGPT verandert: wat is de mogelijke impact voor leren, opleiden en onderwijs? (en twee andere belangrijke ontwikkelingen)

Het was weer dolle boel, de afgelopen week. Niet alleen vanwege de ‘vasteloavend’, maar ook vanwege belangrijke ontwikkelingen op het gebied van generatieve AI. De afgelopen week maakte OpenAI bijvoorbeeld bekent dat het geheugen van ChatGPT gaat veranderen. Daarnaast maakte Google bekend dat de nieuwe versie van Gemini een ‘context window’ krijgt van 1.000.000 tokens. En OpenAI kondigde Sora aan. Met behulp van deze applicaties kun je door middel van een tekstuele opdracht een video van 60 seconden produceren. Wat is de mogelijke impact van deze ontwikkelingen op leren, opleiden en onderwijs?

Het geheugen van ChatGPT

Donald Clark verkent in ChatGPT gets memory upgrade – implications for AI in learning de gevolgen van het veranderde geheugen van ChatGPT. Het menselijk geheugen wordt volgens hem gekenmerkt door zijn complexiteit en beperkingen, zoals een beperkt sensorisch geheugen, een werkgeheugen dat slechts enkele elementen kan bevatten en een lange termijn geheugen dat onderhevig kan zijn aan verval (denk aan dementie).

Een toepassing als ChatGPT heeft ook een geheugen. Dit geheugen is nu aan verandering onderhevig. Het zogenaamde ‘contextvenster’ wordt al langere tijd omvangrijker.  In het kader van generatieve AI, is een ‘context window’ een hoeveelheid tekst dat aan een AI-model wordt gegeven om te helpen bij het genereren van nieuwe tekst. Het model kijkt naar de woorden in het contextvenster en gebruikt die informatie om te voorspellen welke woorden ernaast komen. Grotere contextvensters stellen de AI-toepassing in staat om langere gesprekken of documenten te begrijpen, maar vereisen meer rekenkracht en kunnen de nauwkeurigheid beïnvloeden.

Daarnaast kun je bij ChatGPT beter instellen wat ChatGPT moet onthouden. Je kunt ChatGPT straks expliciet vragen om iets te onthouden, vragen wat ChatGPT zich herinnert, en het via een gesprek of via instellingen vragen om te vergeten. Je kunt het geheugen ook volledig uitschakelen.

Dankzij deze innovatie kun je bij ChatGPT rekening houden met eerdere input van lerenden, of onthouden wie de gebruiker is en context uit die persoonsgegevens halen, zoals leeftijd, voorkennis, taalniveau en eerdere gesprekken over onderwerpen. Dit helpt meer gepersonaliseerde, efficiënte leerervaringen te faciliteren waarbij niet steeds dezelfde vragen gesteld worden. De gebruiker zelf bepaalt wat ChatGPT van de gebruiker onthoudt.

In de vergelijking tussen menselijk geheugen en AI-geheugen benadrukt Clark dat beide systemen informatie opslaan en ophalen, maar op verschillende manieren. Mensen gebruiken complexe neurale netwerken voor deze processen, terwijl AI digitale opslagmethoden en verschillende vormen van neurale netwerken gebruikt. Beide systemen herkennen patronen en generaliseren ervaringen naar nieuwe situaties. De aanpak verschilt echter: mensen leren van nieuwe ervaringen, terwijl AI-modellen worden getraind met nieuwe data. AI genereert ‘output’ zonder dat deze expliciet is aangeleerd. AI wordt zelfs gebruikt voor beeld- en spraakherkenning en het opzetten van dialogen.

De auteur nuanceert ook het idee dat ons menselijk geheugen een exacte weergave van de werkelijkheid is en benadrukt dat het met de tijd verandert. Dit geldt ook voor AI: het kopieert niet feilloos, maakt fouten en produceert soms zelfs eigen content. Deze inherente flexibiliteit blijkt verrassend genoeg een link te hebben met onze creativiteit, stelt Clark, omdat deze voortvloeit uit onze ervaringen en herinneringen.

Menselijk geheugen en generatieve AI verschillen volgens Donald Clark fundamenteel. Toch zijn beiden van groot belang voor leren, opleiden en onderwijs. Hij meent ook dat AI-tutorsystemen aanzienlijk kunnen verbeteren, vooral met de toename van de functionaliteit en meer omvangrijke contextvensters, als inzichten uit de wetenschap over leren worden toegepast.

Groter context window

De nieuwe versie van Google Gemini krijgt zoals gezegd een ‘context window’ van maar liefst 1.000.000 tokens. Dit is 8 keer zo veel als nu het geval is. Je kunt straks meer dan 1300 A4tjes tekst invoeren. Volgens Donald Clark is dit bijvoorbeeld uitgetest met Les Misérables van Victor Hugo. Dit betekent onder meer dat je opdrachten kunt geven om binnen lange teksten passages te destilleren, samenvattingen van meer uitgebreide teksten te maken (maar zie ook ChatGPT gebruiken voor het maken van samenvattingen werkt nu wat anders) of op termijn uitgebreide podcasts kunt laten samenvatten.

Video’s maken met Sora

OpenAI -de maker van ChatGPT en DALL-E- stelt binnenkort een nieuwe applicatie beschikbaar. Hiermee kun je op basis van een ‘prompt’ een video van 60 seconden produceren. Je kunt hiermee eenvoudig korte instructievideo’s maken of visuele illustraties produceren. Vooralsnog zullen dit type video’s bestaande kennisclips m.i. niet vervangen omdat 60 seconden in veel gevallen te beknopt is en het ingewikkeld zal zijn om bijvoorbeeld in te zoomen op een detail. De kwaliteit van de video zal volgens mij ook afhangen van de kwaliteit van de ‘prompt’ (zoals dat ook bij generatieve AI-toepassingen als ChatGPT of Google Gemini het geval is). Ook vermoed ik dat gebruikers -net als bijvoorbeeld bij DALL-E- ‘Sora-moe’ zullen worden omdat de stijl zo herkenbaar wordt. Maar opzienbarend is deze ontwikkeling wel.

Hieronder zie je een voorbeeld van een afbeelding van zo’n video plus prompt. Check ook de indrukwekkende voorbeelden bij OpenAI zelf. De tekst gaat verder onder de afbeelding.

Tot slot

Je leest in diverse publicaties terug dat we wellicht ‘dommer’ worden als we veel cognitieve taken laten overnemen door AI. je zou je juist cognitief moeten inspannen en moeite moeten doen om te leren. De vrees dat internet ons dommer maakt, bestaat al veel langer. Volgens De Bruyckere, Kirschner en Hulshof (2015) kan deze claim echter niet worden bewezen. Voor degenen die denken dat AI cognitieve taken overneemt: er zijn juist ook AI-apps die lerenden juist cognitief uitdagen. Bijvoorbeeld: NSWEduChat, die wordt beschreven in The Guardian.

Andere bronnen over generatieve AI

1. Ethischer Einsatz von Künstlicher Intelligenz (KI) in der Arbeitswelt: Ein Leitfaden
2. 7 AI Trends 2024
3. 5 Generative AI Chatbots Everyone Should Know About
4. AI Revolutionizes Voice Interaction: The Dawn of a New Era in Technology
5. 10 Mind-Blowing Generative AI Stats Everyone Should Know About
6. 2024 EdTech Trends: Authenticity, Better Tools, and More AI Of Course
7. Embracing Shadow AI Will Help Accelerate Innovation
8. The OpenAI Endgame
9. Generative AI Readiness is Shockingly Low: These 5 Tips Will Boost It
10. How AI Has Begun Changing University Roles
11. Microsoft Launch a New AI-Powered Reading Coach
12. Maak een Chatbot om je Workshop of Les Nog Beter te Maken
13. How Teachers Are Pondering the Ethics of AI
14. AI is Disrupting Professions That Require College Degrees: How Should Higher Ed Respond
15. Generative AI: The Latest Scapegoat for Research Assessment
16. 10 Best AI tools for Education
17. AI Changes Work and Will Change Who, Why and How
18. 4 AI Imperatives for Higher Education in 2024
19. Apple Keyframer AI Model om Afbeeldingen te Animeren
20. RUG Omarmt Gebruik ChatGPT, Maar Er Zijn Wel Regels
21. AI in het Onderwijs
22. AI-Augmented Literature Reviews
23. Cohere Research: AYA
24. Generated by OpenAI’s Video-to-Text AI Model
25. ChatGPT, Hackers uit Rusland, Noord-Korea, Iran
26. 7 Strategies to Get Your Employees on Board with GenAI
27. Blended Learning in een Tijdperk van AI: Hoe Maak Je Jouw Onderwijs Toekomstbestendig
28. 2024 EDUCAUSE AI Landscape Study
29. De Toekomst van AI: Scenariotest
30. ChatGPT’s memory gives OpenAI’s chatbot new information about you – The Verge
31. GUEST POST: The Benefits and Risks of ChatGPT for Education
32. Most students use AI for studies, digital divide emerges – Survey
33. Human or AI? Connectives Hold the Clues
34. AI has begun changing university roles, responsibilities
35. Teaching and Learning Workforce in Higher Education, 2024
36. How Generative AI Will Change The Jobs Of Teachers
37. OpenAI Gives ChatGPT a Memory
38. AI: Can it think like your students do?
39. ChatGPT-5: OpenAI’s Next Game-Changing AI
40. The rise of AI in American football
41. The Multimodal AI Model Problem
42. AI Tutors: AI Is Shaping Educational Support
43. ChatGPT vs. Microsoft Copilot vs. Gemini
44. AI needs to be trained on culturally diverse datasets
45. GenAI policies in higher education assessment
46. Generative AI for future-proof student assessment
47. Critical review of GenAI policies in higher education assessment
48. Assessment, rote memorization and artificial intelligence
49. The Lasso Way to Formative Assessment
50. Internet of Things in Education
51. AI Chatbots: 3 Free LLMs That Transform Teaching
52. Tech in Education: The Rise of EdTech
53. ChatGPT and Beyond: How to Handle AI in Schools
54. Privileged students ‘likelier to use ChatGPT’
55. When Should Students Use Artificial Intelligence?
56. U.S. Department of Ed Revisits Distance Learning Guidelines
57. 8 Tech Skills Every Student Should Have
58. Bring AI Literacy to Schools and Colleges
59. Fostering Students’ Academic Integrity in High School
60. Presence and Integrity in Online Learning
61. Rethinking assessment for GAI
62. What GenAI May Take Away
63. ‘AI Girlfriends’ Are a Privacy Nightmare
64. Top 8 Cheat Sheets on AI
65. Generative AI Is Coming to Google Maps
66. What the AI Pin misunderstands about Star Trek
67. The OpenAI Endgame
68. Is it possible to concentrate to the max in age of distractions?
69. Find the AI approach that fits the problem
70. work and workplace trends to watch in 2024
71. A.I. Economy Will Make Jobs More Human

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

The post Het geheugen van ChatGPT verandert: wat is de mogelijke impact voor leren, opleiden en onderwijs? (en twee andere belangrijke ontwikkelingen) first appeared on WilfredRubens.com over leren en ICT.
Lees het hele artikel