Zeventiende bloemlezing over ChatGPT (en aanverwante technologieën)
Hieronder vind je weer ik een bloemlezing over ChatGPT en aanverwante technologieën. Het gaat om tien samenvattingen en meer dan zestig links naar Nederlandstalige bronnen of bronnen waar ik niet aan toe kom om ze samen te vatten. Er is inmiddels veel aandacht voor het hanteerbaar maken van risico’s. Maar hebben wij mensen nog wel grip op deze ontwikkeling? Is generatieve AI onze ‘Frankenstein’? De mogelijke gevolgen voor leren, opleiden en onderwijs worden ook nog steeds belicht.
Don’t pause AI development, prioritize ethics instead
Christina Montgomery en Francisca Rossi stellen dat we ons op een kritiek overgangspunt bevinden op het gebied van de ontwikkeling, implementatie en het gebruik van generatieve AI-systemen. Ze benadrukken dat het cruciaal is om ethische normen en richtlijnen voor AI te ontwikkelen en te verfijnen, en pleiten tegen een pauze in de ontwikkeling van AI om deze normen te ontwikkelen. In plaats daarvan zou verantwoordelijke professionalisering en een “ethics by design” aanpak over de hele AI-linie, ondersteund door “multi-stakeholder” samenwerking, deze systemen beter kunnen maken. Ze benadrukken ook de behoefte aan transparantie over hoe bedrijven de privacy van de data die met hun AI-systemen interacteren, beschermen. Ze roepen de private sector, overheden en wetgevers op om verantwoordelijkheid en ethiek voorop te stellen in hun AI-agenda’s, slimme regelgeving te implementeren en te werken aan transparantie in data-privacy.
De snelle groei van kunstmatige intelligentie (AI) zorgt voor existentiële vragen en bezorgdheid, ook onder degenen die de technologie ontwikkelen. De auteur vraagt zich af: “Hebben we het Frankenstein-moment bereikt, waarop de wetenschappers en de vooruitgangsdenkers plots de gevaren inzien van een zelfgecreëerd monster?” Geoffrey Hinton, een van de pioniers van AI, uitte onlangs zijn zorgen over de gevaren van AI. Hij vreest onder andere de verspreiding van nepnieuws en de impact op de arbeidsmarkt. Ook anderen waarschuwen voor de ongecontroleerde ontwikkeling van AI. Er zijn oproepen om de ontwikkeling van AI tijdelijk te pauzeren. Er zijn echter ook experts die benadrukken dat de angst vaak groter is dan het werkelijke gevaar en dat de focus moet liggen op verantwoordelijk gebruik en regulering van AI. De geschiedenis leert dat je angst terug ziet bij elke disruptieve technologie die succesvol is, bijvoorbeeld ook bij de uitvinding van de elektriciteit. De manier waarop mensen AI inzetten, versterkt bestaande problemen zoals nepnieuws en manipulatieve algoritmen. Het ware risico schuilt dus in de toepassing van de technologie.
Dit is wat ik een groot gevaar aan AI vind
Erwin Blom is groot liefhebber van de mogelijkheden die AI biedt. Generatieve AI maakt het echter moeilijker om de authenticiteit en waarheid van digitale content te verifiëren, waardoor ongeloof en wantrouwen de standaardhouding kunnen worden in plaats van vertrouwen. Voor een maatschappij die afhankelijk is van samenhang en binding, is dit een zorgwekkende trend. Elke technologie die voor zowel goede als slechte doeleinden kan worden gebruikt, onvermijdelijk ook voor het slechte zal worden gebruikt. Erwin heeft geen pasklare oplossing voor deze problematiek.
Volgens mij zul je vooral moeten kijken naar de persoon of organisatie die generatieve AI gebruikt om digitale content te produceren? Wat is diens reputatie? Hoe legt de persoon/organisatie verantwoording af over het gebruik van AI? Hoe gaat de persoon/organisatie om met AI? Daarom heb ik zelf via deze bijdrage beschreven hoe ik generatieve AI-toepassingen gebruik. Door daar transparant over te zijn en o.a. aan te geven dat menselijke beoordeling aan publicatie vooraf moet gaan, hoop ik vertrouwen te wekken in de manier waarop ik AI gebruik.
Five ways AI has already changed higher education
Volgens Tom Williams en Jake Grove zijn er vijf manieren waarop kunstmatige intelligentie (AI) de onderwijssector al ingrijpend heeft veranderd:
- Herstructurering van bedrijfsmodellen: De opkomst van generatieve AI dwingt bedrijven zoals leveranciers van leertechnologie om hun bedrijfsmodellen te herzien. AI-tools zoals ChatGPT leiden tot verminderde aanschaf van traditionele educatieve hulpmiddelen. Bedrijven zullen hun aanbod aan producten toekomstbestendig moeten maken.
- Inzet van bots voor onderwijs en studentenondersteuning: ChatGPT en vergelijkbare tools leiden tot geavanceerde chatbots die kunnen helpen bij het beantwoorden van vragen en het geven van onderwijs. Deze chatbots kunnen ook zorgen voor persoonlijke ondersteuning, ondersteuning bij welbevinden en counseling.
- Ontlasting van begeleiders die betrokken zijn bij toelating: AI helpt de werkdruk voor deze begeleiders te verlichten door in de toekomst mogelijk bepaalde aanvragen te elimineren die zeer onwaarschijnlijk worden toegelaten. De vraag is hierbij wat mij betreft of dat acceptabel is. Menselijke beoordeling moet hieraan ten grondslag liggen. Daarnaast wordt er gekeken naar de implementatie van chatbots om basisvragen van potentiële aanvragers te beantwoorden.
- Vinden van wetenschappelijke artikelen en analyse van citaten: AI-tools helpen bij het vinden van relevante wetenschappelijke artikelen en het visualiseren van patronen in citaten. Nieuwe producten zoals scite kunnen betrouwbare antwoorden rechtstreeks uit de volledige tekst van onderzoeksartikelen destilleren en helpen bij het identificeren van nuttige papers.
- Kwaliteitscontrole van papers: AI kan helpen bij het snel en betrouwbaar scannen van wetenschappelijke artikelen om hun kwaliteit te beoordelen. AI-tools zoals Semantic Scholar kunnen wetenschappelijke literatuur samenvatten en beoordelen. Dit bespaart tijd voor onderzoekers.
POV: AI is going to transform education for neurodivergent students, not destroy it
Jenny Wu benadrukt dat AI het onderwijs op onvoorstelbare wijze transformeert. AI heeft volgens haar de kracht om grote hoeveelheden gegevens te analyseren, patronen en trends te identificeren en gepersonaliseerde leerervaringen te creëren. Hierdoor kan onderwijs effectiever, toegankelijker en inclusiever worden. Zij stelt dat AI met name mogelijkheden biedt voor ‘neurodivergente’ lerenden, die vaak moeite hebben met het verwerken van informatie. Door AI te gebruiken om individuele behoeften te identificeren en aan te pakken, kunnen gepersonaliseerde leerervaringen worden geboden, wat kan leiden tot meer inclusief en toegankelijk onderwijs, meent zij. Wu noemt als één van de belangrijkste voordelen van AI dat bijvoorbeeld lerenden met dyslexie of aandachtstekortstoornis, die moeite hebben met lange alinea’s in studieboeken, AI-toepassingen zoals ChatGPT kunnen gebruiken om tekst in een format met opsomingen kunnen herschrijven. Dit helpt deze lerenden de leerinhoud gemakkelijker te begrijpen en te onthouden.
ChatGPT: New Technology, Same Old Misogynoir
Dit is ernstig. Mutale Nkonde laat zien dat ChatGPT bijdragen aan de menselijke geschiedenis van vrouwen, kinderen en mensen die niet-standaard Engels spreken onvoldoende representeert. ChatGPT weet bijvoorbeeld niet dat blueszangeres Bessie Smith – een baanbrekende zangeres die generaties blues-, jazz- en rockmuzikanten heeft beïnvloed – de befaamde gospelzangeres Mahalia Jackson sterk heeft beïnvloed. Smith had zeer veel succes en invloed op honderden muzikanten, waaronder onder andere Billie Holiday, Janis Joplin en Elvis Presley. Deze informatie ontbreekt in de trainingsdatabase omdat deze gevoed met informatie van musicologen die Smith’s werk het liefste negeren. Ik heb ChatGPT overigens gevraagd: Beschrijf de invloed van blueszangeres Bessie Smith op diverse generaties blues-, jazz- en rockmuzikanten. Dat leidde overigens tot een behoorlijke lofzang op Smith, waarbij ook verwezen wordt naar haar invloed op Joplin. Wellicht is de inhoud van de trainingsdatabase inmiddels aangepast. Dat zou goed zijn (al is voorkomen beter).
How ChatGPT can help disrupt assessment overload
Volgens hoogleraar David Carless is het belangrijk om de praktijk van het beoordelen in het onderwijs te heroverwegen in het licht van de recente ontwikkelingen op het gebied van generatieve AI, zoals ChatGPT. Carless benadrukt dat er sprake is van een “beoordelingsoverbelasting”, waardoor lerenden vaak hun werk haastig afronden of zelfs plagiaat plegen. De auteur stelt voor om het aantal beoordelingen te verminderen en meer te focussen op diepgaand begrip dan op prestaties. Door lerenden bij het ontwerpen van hun eigen beoordelingstaken te betrekken, kunnen ze waardevoller en origineler werk produceren. Daarnaast kunnen generatieve AI-tools als ChatGPT snelle feedback geven op voortgang van het werk. Dit stimuleert lerenden om hun leerproces te documenteren. AI-toepassingen zoals ChatGPT maken stapsgewijze, procesgerichte beoordelingen mogelijk, zoals: lerenden proberen verschillende prompts uit met ChatGPT; zij evalueren en bouwen voort op de output ervan; zij leren AI-hallucinaties en onnauwkeurigheden op te sporen; ze relateren de inhoud aan andere modules of belangrijke colleges; of zij spitsen de inhoud toe naar reële gebeurtenissen in een specifieke context. Tenslotte stelt Carless voor om te overwegen om de potentie van mondelinge digitale beoordelingen meer te benutten.
Mediocrity Is Over: The ChatGPT Threat To Average Instructional Design
ChatGPT kan volgens David James de manier waarop ontwerpers van leertrajecten werken uitdagen. Vooral diegenen die middelmatige inhoud leveren. ChatGPT kan reageren op specifieke vragen van gebruikers en leren van feedback, en het kan worden getraind om de nuances van een organisatie te begrijpen. Dit maakt het mogelijk om zeer relevante, op maat gemaakte leerinhoud te ontwikkelen. ChatGPT is volgens James niet noodzakelijk beter dan de beste ‘instructional designer’, maar de applicatie biedt wel voldoende concurrentie om een wake-up call te zijn voor de L&D-sector. James stelt: So should all instructional designers be worried? No, not immediately. But the huge number of mediocre and subpar designers should be.. En dan moeten de meest krachtige versies van ChatGPT nog ontwikkeld worden…
How does ChatGPT differ from human intelligence?
Deze bijdrage is een verslag van een conversatie tussen twee wetenschappers van Brown University. Deze bijdrage typeert ChatGPT als een machine learning model dat menselijke communicatie nabootst door het volgende woord in een zin te voorspellen. Het is getraind op grote hoeveelheden data en kan daardoor zeer realistisch klinkende teksten genereren. ChatGPT leert echter niet als een mens en het ‘denken’ van ChatGPT is niet gelijk aan menselijk denken. De AI-toepassing gebruikt een kunstmatig neuraal netwerk, geïnspireerd door neuronen in een menselijk brein, maar de werking blijft een vereenvoudiging van menselijke cognitieve processen. Daarnaast wordt ChatGPT niet in real-time bijgewerkt en verandert elk uitgevoerd commando niet automatisch de volgende uitvoer, zoals bij menselijke intelligentie het geval zou zijn. Menselijke en artificiële intelligentie blijven fundamenteel verschillend.
What every CEO should know about generative AI
Generatieve AI -toepassingen kunnen volgens deze auteur waarde kan creëren voor organisaties. CEO’s moeten zich actief bemoeien met het formuleren van een strategie hoe hiermee om te gaan. De tekst geeft een introductie tot generatieve AI, legt uit hoe het verschilt van traditionele AI en presenteert voorbeelden van hoe generatieve AI kan worden toegepast om de slagkracht van organisaties te verbeteren. Een voorbeeld is het gebruik van generatieve AI voor het ontwikkelen van op personen toegespitste marketing content. De bijdrage benadrukt ook de rol van de CEO hierbij. Zo zouden verantwoordelijken uit het bedrijfsleven zich moeten richten op het opbouwen en onderhouden van een evenwichtige reeks allianties. De acquisitie- en alliantiestrategie van een organisatie moet gericht blijven op het opbouwen van een ecosysteem van partners, afgestemd op verschillende contexten en op wat generatieve AI vereist.
Andere bronnen over ChatGPT (geen tijd om kort te beschrijven of Nederlandstalig)
- Kan AI de redding worden van het Nederlandse taal- en rekenonderwijs?
- ChatGPT in het onderwijs : Modulair 2023 april
- Hoe komen we tot een mensgerichte AI-toekomst?
- ’AI-race’ leidt tot zorgen bij experts, die ook in het duister tasten
- ChatGPT: Het einde van creativiteit?
- ChatGPT: 6 praktische ideeën voor in de les
- Europese regels voor AI stap dichterbij, dit zijn de plannen
- Vijf keer hoera voor de bescherming van mensenrechten bij AI
- AI-chatbot Claude kan volledig boek binnen 1 minuut ‘lezen’
- ChatGPT is opnieuw beschikbaar in Italië na eerder verbod
- ChatGPT, slimme camera’s en deepfakes: de Europese AI-wet
- Google experimenteert met nieuwe zoekmachine, met ‘generatieve’ AI
- Heb je een goed idee? Vertel het niet aan Chat-gee-pee-tee!
- De mogelijkheden en beperkingen van Generatieve AI (GAI)I’m a Student. You Have No Idea How Much We’re Using ChatGPT
- 5 Job Roles in Danger of Disappearing Because of Generative AI
- Generative AI & data: Potential in cybersecurity if the risks can be curtailed
- The Responsible Development of AI Agenda Needs to Include Consciousness Research
- It’s Not Just About ChatGPT. Other AI Technologies Are Heading to Schools
- How To Delete Your Data From ChatGPT
- How Generative AI Changes Creativity
- The Path Ahead for Generative AI
- Educators Team Up to Respond to Sudden Rise of ChatGPT
- The Great AI Disruption: Six Startling Predictions That Will Shape Our Lives and Test Our Limits
- The Hot New Job That Pays Six Figures: AI Prompt Engineering
- 14 popular AI algorithms and their uses
- What Students Really Need to Learn About AI
- Wolfram Alpha + ChatGPT = Amazing Math Teacher Help
- Tableau GPT brings generative AI to Salesforce data analytics suite
- Prompt Engineering for Human Intelligence (HI)
- ‘Please do not assume the worst of us’: students know AI is here to stay and want unis to teach them how to use it.
- That’s Not Right: How to Tell ChatGPT When It’s Wrong
- What Higher Ed Gets Wrong About AI Chatbots — From the Student Perspective
- AI-Based Plagiarism Detection Comes to Open Source LMS
- Beware of AI pseudoscience and snake oil
- Stephen Wolfram: ChatGPT and the Nature of Truth, Reality & Computation | Lex Fridman Podcast #376
- The “Best” Ideas For Using ChatGPT, Bard, & Other Forms Of AI With Students
- New Guidance I’m Giving My Students On ChatGPT Use – We’ll See How It Goes
- The Amazing Ways Duolingo Is Using AI And GPT-4
- How Using AI Optimizes Instruction and Learning in Secondary Writing
- 5 use cases for human-centered AI
- ChatGPT, the rise of generative AI
- 5 Ways to Future-Proof Your Career in the Age of AI
- ChatGPT and Artificial Intelligence in higher education: Quick start guide (pdf)
- Lesson Plan: Teaching and Learning in the Era of ChatGPT
- FUTUREPEDIA. THE LARGEST AI TOOLS DIRECTORY, UPDATED DAILY
- Think tank proposes plan to cut AI chatbot cheating
- From Deepfakes to Facial Recognition, Stanford Report Tracks Big Hike in AI Misuse
- AI Tools for Research Workflow in Academia
- AutoGPT: The New Kid on the AI Block That’s Changing Everything!
- Generative AI: A paradigm shift in enterprise and startup opportunities
- How Students Use AI to Design Solutions for Their Community
- How to Differentiate Texts with ChatGPT
- 10 AI Tools Beyond ChatGPT That Can Save Teachers Time
- ChatGPT: Who’s using the AI tool and why?
- Bing ChatGPT Link
- Bard vs ChatGPT4: The Battle of Words
- You’re Using ChatGPT Wrong! Here’s How to Be Ahead of 99% of ChatGPT Users
- EdTech Is Going Crazy For AI
- Inside the secret list of websites that make AI like ChatGPT sound smart
- ChatGPT (We need to talk)
- Plagiarism Spectrum 2.0
- ChatGPT: Post-ASU+GSV Reflections on Generative AI
- The ChatGPT Artificial Intelligence Chatbot: How Well Does It Answer Accounting Assessment Questions?
Mijn eerdere bijdragen over ChatGPT