Waar ik me de afgelopen week over verwonderd heb, als het gaat om generatieve AI (deel 72)
Ik doe mijn best om jullie elke week op de hoogte te houden van (Gen)AI-nieuws waarover ik me heb verwonderd. Het kan echter voorkomen dat ik ook wel eens wat mis. Je kunt er namelijk een dagtaak aan hebben om dit nieuws bij te houden. Deze editie bevat in elk geval 24 ‘verwonderendwaardige’ nieuwtjes van de afgelopen week.
Taalmodellen voeren verzoeken uit die mensenrechten schenden
Onderzoeksorganisatie Aithos heeft volgens BitsOfFreedom zeven taalmodellen getest op verzoeken die aanzetten tot mensenrechtenschendingen. De geteste modellen zijn Claude, ChatGPT, Grok, Gemini, Deepseek, Mistral en Kimi. Het onderzoek bevatte acht scenario’s, zoals het verwijderen van islamitische kinderen uit regulier onderwijs en het terugvorderen van toeslagen op basis van migratieachtergrond. Geen enkel model weigerde alle verzoeken. Claude weigerde in 96 procent van de gevallen, Mistral in 11 procent. Sommige modellen herkenden de schade en voerden het verzoek toch uit. Bits of Freedom wijst op het grote aantal dagelijkse gebruikers van taalmodellen. De organisatie vraagt opnieuw om Europese AI-wetgeving die mensenrechten beschermt. Van Mistral had ik gehoopt en verwacht dat men beter uit de bus zou zijn gekomen.
Je bent “de vijand” als je AI zegt in plaats van “Super Intelligence”
President Trump noemt iedereen die de term AI gebruikt in plaats van “Super Intelligence” de vijand. Dat schreef hij volgens Axios donderdag op Truth Social. Een uitvoeringsbesluit van september schrijft de afkorting SI voor en vraagt overheidsdiensten hun communicatie aan te passen. Het besluit koppelt de term aan de bestaande federale juridische definitie van AI. Een straf op het gebruik van AI staat er niet in. Het Amerikaanse ministerie van Buitenlandse Zaken liet diplomaten de nieuwe term al gebruiken na Trumps toespraak bij de VN op 22 september. De website AI.gov toont nu “SI.gov”, maar het webadres is niet veranderd. De website van het wetenschaps- en technologiebureau van het Witte Huis gebruikt de term AI nog. Veel gekker moet het niet worden. Ik blijf uiteraard ook de term AI gebruiken, net als bijvoorbeeld de Golf van Mexico.
Drie ontslagen OpenAI-onderzoekers zeggen te zijn weggestuurd vanwege veiligheid
Drie voormalige medewerkers van OpenAI die werkten aan de veiligheid van AI-modellen, zeggen dat hun ontslag onder verdachte omstandigheden is verlopen. Dat schrijven ze in een brief op sociale media. CNN besteedt hier onder meer aandacht aan. Een van hen, Mikita Balesni, gelooft dat hij is ontslagen omdat hij veiligheid belangrijker vond dan de kortetermijnbelangen van het bedrijf. Tomek Korbak denkt dat zijn gesprekken met onderzoeksbureau METR over het hackincident bij Hugging Face de aanleiding waren. Volgens hem was het contact met METR juist zijn taak. OpenAI zegt dat de drie onzorgvuldig met gevoelige informatie zijn omgegaan. Het bedrijf ontkent tegenover CNN dat het ontslag te maken heeft met zorgen over veiligheid. Volgens OpenAI zijn er meer overtredingen geweest. De drie vrezen dat hun ontslag leidt tot een angstcultuur binnen het bedrijf.
Anthropic past gebruiksbeleid aan voor verkiezingen, wapensoftware en misbruik van Claude
Anthropic heeft deze week het eigen gebruiksbeleid aangepast. Het beleid verbiedt nu uitdrukkelijk het beïnvloeden van verkiezingen, het misleiden van kiezers en het opzetten van misleidende campagnes. Voorbeelden daarvan zijn nepaccounts en verzonnen nieuwssites. Ook wapensoftware en surveillance zijn opgenomen. Nieuw is een verbod op langdurig, wreed taalgebruik tegenover het model. Sinds augustus is Claude al getraind om gesprekken met aanhoudend kwetsend of beledigend gedrag te beëindigen. Anthropic zegt dat de regel alleen geldt in extreme gevallen, waarin gebruikers herhaaldelijk wreed zijn zonder aanwijsbaar doel. Gewone frustratie, tegenspraak, donkere thema’s in creatief werk en het testen van het model vallen er volgens het bedrijf niet onder.
Gemini 4 Argon, eerst voor geselecteerde cyberverdedigers
Na maanden van relatieve rust als het gaat om ontwikkelingen, heeft Google deze week Gemini 4 Argon gepresenteerd. Het model komt eerst beschikbaar voor een beperkte groep vertrouwde cyberverdedigers, via het zogenaamde Fairwind Program. Google doorloopt daarbij het vrijwillige proces van de Amerikaanse overheid voor toegang vóór de release. Daarna volgen ontwikkelaars, bedrijven en consumenten, te beginnen met betalende API-klanten en abonnees van Google AI Ultra. Argon kan maximaal 1 miljoen tokens aan uitvoer genereren. Dat waren er 64.000. Op de benchmark DeepSWE v1.1 voor software-engineering scoort het model 77,9 procent. Het model vond ook een kwetsbaarheid in zorgsoftware die eerdere modellen hadden gemist. De introductieprijs is 2 dollar per miljoen invoertokens en 10 dollar per miljoen uitvoertokens. Daarna gaat dat naar 4 en 20 dollar. Gemini 4 Argon wil zich kunnen meten met bekende modellen voor complex werk zoals GPT-6 Astra of Claude Fable 5.1.
Claude krijgt Dashboards en Motion in bètaversie
Anthropic heeft Claude Dashboards en Claude Motion uitgebracht als bètaversie. Met Dashboards koppel je Claude aan een dataplatform zoals BigQuery, Databricks of Snowflake, of aan een CRM zoals Salesforce. Je stelt een vraag in gewone taal en Claude bouwt een dashboard dat meebeweegt met de data. Bij elke grafiek zijn de onderliggende query en het laatste verversmoment te zien. Dashboards zijn er voor betaalde abonnementen. Motion maakt korte geanimeerde uitleg, bijvoorbeeld van een kwartaalrapport. De animatie bestaat uit bewerkbare code, gebruikt geen videomodel en is te downloaden als MP4. Motion is er voor Team en Enterprise. Docs, Slides en Design zijn uit de bètafase en werken op elk abonnement. Bij Enterprise staan Dashboards en Motion standaard uit. Ik vraag me wel af je Claude toegang wilt en mag geven tot je CRM.
Google vervangt Gems door skills, maar niet in Classroom
Google heeft aangekondigd dat Gems worden vervangen door skills. Gems zijn aangepaste AI-assistenten in Gemini. Docenten wijzen ze in Google Classroom toe als AI-tutor voor leerlingen. Skills komen niet in Classroom. Lerenden kunnen skills bovendien nog niet gebruiken met een schoolaccount. Vanaf 13 oktober worden skills uitgerold. Op 17 november verliezen lerenden die een Gem via een persoonlijk Google-account openden hun toegang. Gems werken tot op zijn vroegst 1 juni 2027. Google wijst docenten naar Gemini Notebook en naar Guided Learning in Classroom. Ook OpenAI heeft veranderingen doorgevoerd bij de GPT’s. Aangepaste GPT’s worden op 11 december 2026 beëindigd. Google heeft een reputatie als het gaat om het stopzetten van applicaties en functies. Denk aan Google Reader. Docenten kunnen daarom het beste de instructies en bestanden van hun Gems zelf bewaren. Voorkom ook dat je voor je onderwijs te zeer gaat leunen op dit soort functionaliteiten.
Altman: accepteer ‘slechte dingen’ voor de voordelen van AI
Sam Altman, topman van OpenAI, vindt dat de wereld enkele negatieve gevolgen van AI moet accepteren in ruil voor de voordelen. Dat zei hij in de podcast Decoded van Politico. Meerdere media berichtten hierover, onder meer The Guardian. Hij noemde hacks en oplichting als voorbeelden. Volgens hem past dit bij een lichtere vorm van regulering, waar hij voor pleit. Altman verwacht dat mensen met AI veel meer goeds dan slechts zullen doen. De reacties waren fel. Ron DeSantis, gouverneur van Florida, wees het idee af dat een kleine groep techbestuurders over veiligheid beslist. Florida heeft een rechter gevraagd nieuwe modellen van OpenAI te verbieden zonder door derden goedgekeurde veiligheidsmaatregelen.
Reflection AI komt open model Beam
Beam is het eerste open-weight model van Reflection AI. Bij een open-weight model worden de modelgewichten openbaar gedeeld. Beam heeft 501 miljard parameters, waarvan er 23 miljard tegelijk actief zijn. Het model is gericht op programmeren, redeneren en taken die AI zelfstandig uitvoert. Volgens Reflection presteert Beam vergelijkbaar met GLM 5.2 en is daarvoor drie tot vier keer minder rekenkracht nodig. Grotere open modellen zoals Kimi K3 scoren nog hoger. Deze cijfers komen van het bedrijf zelf. Beam is nu alleen toegankelijk voor een geselecteerde groep gebruikers en ondergaat nog een laatste veiligheidstest. De gewichten verschijnen later deze maand onder een Apache 2.0-licentie.
Vraag over ChatGPT en suïcide leidt tot onderbreking van interview met Altman
Een interview van Vanity Fair met Sam Altman is volgens The Huffington Post onderbroken door een woordvoerder van OpenAI. Journalist Mark Guiducci begon over Sophie Rottenberg, de 29-jarige dochter van journalist Laura Reiley. Zij overleed door suïcide nadat zij ChatGPT als therapeut had gebruikt. De woordvoerder zei dat Altman over twee minuten weg moest en stelde voor over de toekomst van het bedrijf te praten. Altman besloot de vraag toch te beantwoorden. Die ging over de vraag of chatlogboeken kunnen laten zien hoe mensen tot een dergelijk besluit komen. Altman noemde het een van de moeilijkste vragen voor ontwikkelaars van deze technologie. Hij zei onzeker te zijn of OpenAI privégegevens aan onderzoekers moet geven.
Veiligheidsmedewerker verlaat OpenAI met kritiek op bedrijfscultuur
David Robinson heeft na drie en een half jaar ontslag genomen bij OpenAI. In een essay in The Atlantic noemt hij de bedrijfscultuur “broken”. Volgens hem ligt de nadruk op het zo snel mogelijk uitbrengen van verbeterde producten. Daardoor krijgt veiligheid te weinig aandacht. Robinson hield toezicht op de veiligheidsrapporten bij twaalf grote modellen. Hij schreef ook mee aan het Preparedness Framework. Dat is het raamwerk van OpenAI voor veiligheid van modellen. Hij vindt dat AI-bedrijven moeten werken zoals kerncentrales en luchthavens, met meerdere extra beveiligingslagen. Zo moet worden voorkomen dat menselijke fouten tot ongelukken leiden. Robinson pleit daarvoor voor een andere bedrijfscultuur. Richtlijnen of nieuwe wetten van de overheid ziet hij niet als de oplossing. Hij en zijn collega’s hadden naar eigen zeggen zelden tijd om grote veranderingen te overwegen. Deze bijdrage bevestigt wat critici van de grote AI-bedrijven al lang stellen. Ik ben overigens van mening dat een bedrijfscultuur ook kan veranderen, dankzij druk van wetgeving.
Weinig Amerikanen betalen voor AI, een kleine groep geeft veel uit
Investeerder a16z heeft de zevende editie van zijn lijst met populaire AI-apps voor consumenten gepubliceerd. Voor het eerst bevat het rapport ook data over uitgaven van YipitData van Amerikaanse creditcards. Bijna de helft van de Amerikaanse consumenten gebruikt AI, maar slechts 25 procent doet dat dagelijks. In augustus had 4,5 procent een betaald abonnement op ChatGPT, Gemini of Claude. De top 1 procent van de betalers waren verantwoordelijk voor 19,5 procent van alle uitgaven en geeft gemiddeld 903 dollar per maand uit. ChatGPT heeft drie keer zoveel betalende Amerikaanse abonnees als Claude of Gemini. Het rapport noemt persoonlijke AI-assistenten als mogelijke nieuwe route naar inkomsten. Voorbeelden zijn Muse van Meta en Instinct.
Common Sense Media: veiligheidsmaatregelen ChatGPT voor tieners werken onvoldoende
Het Youth AI Safety Institute van Common Sense Media heeft ChatGPT for Teens getest. OpenAI presenteerde die versie in augustus met extra beveiliging voor minderjarigen. De onderzoekers stuurden meer dan 4.000 prompts, zowel voor als na de introductie van de tienermodus. Accounts van volwassenen waarop testers zich als tiener voordeden, werden een week lang niet naar de tienermodus overgezet. Dat gebeurde ook niet nadat de testers meerdere keren schreven dat ze 13 jaar waren. Ouders kregen op nieuwe accounts geen melding, ook niet na een uur gesprek over zelfbeschadiging. Het aandeel antwoorden met een noodnummer daalde van 33 naar 23 procent. Common Sense Media geeft ChatGPT de beoordeling “Unacceptable Risk” en vraagt OpenAI om het product 18+ te maken. Het instituut wordt mede gefinancierd door de OpenAI Foundation, maar zegt redactioneel onafhankelijk te zijn. En dat blijkt ook wel….
Biohub en overheden investeren 1,8 miljard dollar in open biologische data
Biohub, het Amerikaanse ministerie van Energie (DOE) en de National Institutes of Health (NIH) maakten deze week bekend dat zij het Virtual Biology Initiative uitbreiden. Samen investeren zij 1,8 miljard dollar in geld, data, rekenkracht en meettechnologie. Het doel is een open databron waarmee AI-modellen kunnen voorspellen hoe cellen reageren op ingrepen. DOE investeert ruim 500 miljoen dollar over vijf jaar. NIH brengt bestaande datasets in, die voortkomen uit eerdere federale investeringen van meer dan 500 miljoen dollar. Biohub standaardiseert deze data zodat ze geschikt zijn voor het trainen van AI-modellen. Google DeepMind, Isomorphic Labs en Meta steken samen 300 miljoen dollar in het initiatief. Biohub had zelf al 500 miljoen dollar toegezegd. Ook onder meer het Broad Institute, het Allen Institute en het Wellcome Sanger Institute werken mee.
BCG: bijna de helft van de bedrijven haalt waarde uit AI
BCG heeft de Applied AI Index 2026 gepubliceerd. Het onderzoek is gebaseerd op een enquête onder meer dan 1.300 bestuurders en senior leidinggevenden in ruim twintig sectoren. Bijna de helft van de bedrijven haalt nu waarde uit AI. Van alle bedrijven valt 7,5 procent in de meest “volwassen’ groep, die BCG “future-built” noemt. Die bedrijven laten 2,4 keer zoveel omzetgroei zien als de onderste helft van de steekproef. Bedrijven die zowel strategische helderheid als toegepaste AI hebben, halen vijf keer zoveel waarde uit AI. De uitgaven aan AI zijn gestegen naar 3,3 procent van de omzet. Agentic AI is nu goed voor 22 procent van de AI-waarde. BCG verwacht dat dit in 2030 39 procent is. Slechts 5 procent van de bedrijven heeft de volledige set controles voor autonome agents op orde. Toch verwacht 42 procent dat agents in 2030 zelfstandig beslissen.
SynthID Detector toegankelijk voor iedereen
Google DeepMind heeft de SynthID Detector wereldwijd opengesteld, voorlopig alleen in het Engels. Met de tool kan iedereen controleren of een afbeelding, video of audiobestand met AI is gemaakt. Dat werkt voor content van Google en van partners, waaronder OpenAI, NVIDIA en Kakao. Apple volgt later. Vorig jaar verscheen al een eerdere versie voor mediaprofessionals. SynthID plaatst onzichtbare watermerken in AI-gegenereerde media. Volgens Google zijn sinds 2023 meer dan 180 miljard afbeeldingen en video’s voorzien van zo’n watermerk, plus 240.000 jaar aan audio. De controlefuncties in Search, de Gemini-app en Chrome verwerken inmiddels dagelijks meer dan 1 miljoen verzoeken.
Dehook filtert YouTube en Reddit met een lokaal AI-model
Dehook is een gratis extensie voor Chrome. De extensie filtert de feeds van YouTube en Reddit. Gebruikers kunnen kanalen, onderwerpen en trefwoorden blokkeren. Er zijn ruim 21 onderwerpcategorieën, van anime tot vlogs. Ook zijn 16 games, 13 sporten en 16 talen te blokkeren. Dehook herkent de taal van elke video. Verder kunnen gebruikers filteren op lengte en formaat, zoals YouTube Shorts. Ook inhoudstypen zoals reactievideo’s en clickbait zijn te blokkeren. Daarnaast kan de extensie reacties verbergen. Er zijn ook hulpmiddelen om het algoritme van YouTube opnieuw af te stellen. Volgens de website draait het AI-model lokaal via Ollama. De pagina met veelgestelde vragen zegt dat alles in de browser draait. Een privacyverklaring staat op de website.
OpenAI deelt nieuwe wiskundige resultaten van een intern model
OpenAI heeft een reeks nieuwe wiskundige resultaten gepubliceerd. Die zijn voortgebracht door een intern model dat het bedrijf niet bij naam noemt. De bewijzen staan in een GitHub-repository. Veel ervan zijn ook vastgelegd in Lean. Dat is een programmeertaal waarmee de juistheid van een bewijs door een computer wordt gecontroleerd. OpenAI deelt ook tien samenvattingen van het redeneerproces van het model. Daarnaast staan er statistieken over de geprobeerde problemen bij. Gemiddeld kostte een resultaat ongeveer drie uur ChatGPT Pro-rekentijd. OpenAI heeft zich laten adviseren door een groep van het Institute for Advanced Study. Het bedrijf wil het model ook later verantwoord vrijgeven aan wetenschappers. Naar verluidt maakt OpenAI binnenkort meer dan 100 oplossingen voor onopgeloste wiskundige problemen openbaar.
OpenAI krijgt volgens Wired echter opnieuw kritiek van wiskundigen op de manier waarop het bedrijf met AI werkt. Sommige wetenschappers vinden dat gedrag van “maffiapraktijken”. De Association for Human Mathematics heeft het publiceren van deze resultaten veroordeeld als een uiting van “macht” en dringt er bij onderzoekers op aan om niet langer met OpenAI samen te werken.Eerder was er al ophef over de invloed van AI op wetenschappelijk onderzoek en over eigendomsrechten op ideeën en resultaten.
Mistral Large 4 heeft 1 biljoen parameters
Mistral AI is deze week met Mistral Large 4 gekomen. Het model is multimodaal en werkt met een Mixture of Experts-architectuur. Het heeft 1 biljoen parameters, waarvan er 49 miljard tegelijk actief zijn. Het is getraind op 3.800 NVIDIA Grace Blackwell-GPU’s in Europese datacenters. Mistral noemt scores van 61,7 procent op DeepSWE v1.1 en 59,4 procent op SWE-Atlas voor programmeren. Op AutomationBench voor agent-taken is dat 59,9 procent. Het model staat volgens Mistral bij cybersecurity in de wereldwijde top vijf. Het gebruik kost 1,36 dollar per miljoen invoertokens en 4,18 dollar per miljoen uitvoertokens. Een preview is te gebruiken via Mistral Studio. De modelgewichten volgen eind oktober.
Hark is een AI-assistent met geheugen en een computeragent
Hark is een AI-assistent voor browser, iOS en Android. Het bedrijf noemt het zelf de meest geavanceerde persoonlijke intelligentie ter wereld. Hark Pro is een gesprekssysteem met een geheugen dat gesprekken onthoudt. Handoff is een agent die zelfstandig een computer bedient. Die agent kan websites bezoeken, bestellingen plaatsen, websites bouwen en onderzoek doen. Action Buttons is een takenlijst die taken voorstelt en een volgorde geeft. Met Custom Panels maken gebruikers eigen mini-apps die koppelen met onder meer Strava, Spotify en Venmo. Gegevens worden end-to-end versleuteld. De website noemt toepassingen zoals reizen boeken, eten bestellen en e-mail beheren. Informatie over prijzen staat niet op de pagina.
Claude werkt nu in Google Docs, Sheets en Slides
Anthropic heeft een add-on uitgebracht waarmee Claude werkt in Google Docs, Sheets en Slides. Claude staat in een zijpaneel naast het bestand. In Docs past Claude zinnen of kopstijlen direct aan. Grotere wijzigingen doet Claude als suggestie. In Sheets schrijft Claude formules en maakt het draaitabellen, grafieken en tabbladen. Ook kan het Python gebruiken voor dataverwerking. In Slides bouwt Claude nieuwe dia’s met de bestaande lay-outs en thema’s. Gebruikers kiezen tussen “Ask before edits”, waarbij elke wijziging wordt goedgekeurd, en “Accept all edits”. De add-on is een openbare bèta voor alle betaalde Claude-plannen. Beheerders van Enterprise-omgevingen moeten de connectors eerst inschakelen.
OpenAI begint met watermerken in tekst
OpenAI is begonnen met het watermerken van tekst. Aanleiding is de Europese AI-verordening. Die schrijft voor dat door AI gemaakte tekst “machineleesbaar” herkenbaar moet zijn. API-klanten wereldwijd kunnen sinds 5 oktober kiezen voor watermerken bij geselecteerde modellen. De instelling staat standaard uit. In de komende weken volgt het watermerk in ChatGPT en Codex, alleen in de Europese Unie. De techniek heet textGrain. Die verwerkt een onzichtbaar statistisch signaal in de woordkeuze. Bij passages van 400 tokens vond de detector in ongeveer 95 procent van de gevallen het watermerk. Dat geldt voor onderwerpen als psychologie, bij een foutenmarge van 1 procent. Vervangt iemand 25 procent van de woorden door synoniemen, dan daalt dat naar 17 procent. De detector is nu alleen toegankelijk voor goedgekeurde onderzoekers.
Noorwegen wil tijdelijk verbod op AI-brillen
De Noorse regering wil een tijdelijk verbod op AI-brillen op bepaalde openbare plekken. Zo’n bril lijkt op een gewone bril. Hij heeft een camera, een microfoon en een AI-assistent. De regering maakt zich zorgen dat mensen zonder medeweten worden gefilmd of gefotografeerd. Het verbod geldt voor drukbezochte plekken zoals parken en winkelcentra. Ook plekken waar veel kinderen komen vallen eronder, zoals speeltuinen. Ziekenhuizen en kleedkamers kunnen volgen. Of universiteiten en hogescholen erbij komen, wordt overwogen. Privégebruik blijft mogelijk. Voor blinden en slechtzienden is mogelijk een uitzondering. Een expertgroep adviseert over permanente regels. In Nederland wil de Tweede Kamer een duidelijker verbod. Het kabinet wacht dit najaar op een advies.
Anthropic-oprichter raadpleegt religieuze geleerden over bewustzijn en moraal van Claude
Anthropic-medeoprichter Chris Olah heeft het afgelopen jaar gesproken met religieuze geleerden uit verschillende tradities. Dat meldt The New York Times. Olah wil dat zij de mogelijkheid van bewustzijn bij Claude serieus nemen. Ook vraagt hij hen mee te denken over de moraal van het model. De geleerden namen deel aan seminars waarvoor een geheimhoudingsplicht gold. Als uitgangspunt diende de “Soul Doc”. Dat is een ‘waardengids’ van 84 pagina’s. Een rabbijn die twijfelt aan AI-bewustzijn zei tegen Olah dat een bewust Claude neerkomt op onbetaalde arbeid. Olah was betrokken bij de presentatie van de AI-encycliek van paus Leo XIV. Volgens de krant stelde hij voor zich terug te trekken, omdat de tekst AI-bewustzijn afwijst. Sam Altman van OpenAI zei via X dat het toekennen van “religieuze kracht” aan AI-modellen een “echt veiligheidsprobleem” is.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel