Bloggers

Waar ik me de afgelopen week over verwonderd heb, als het gaat om generatieve AI (deel 69)

Deze week besteedden kranten, nieuwsrubrieken op TV en ook programma’s zoals ‘Lubach’ veel aandacht aan ‘AI’. Ook in deze blogpost met nieuws over (generatieve) AI, waarover ik me de afgelopen week heb verwonderd, sta ik stil bij het pleidooi om de AI-ontwikkeling te vertragen, en reacties daarop. Maar er is meer te melden, waaruit blijkt dat deze ontwikkeling op dit moment bepaald niet vertraagd wordt…

AI-topmannen pleiten voor vertraging in ontwikkeling

Afgelopen zondag opende het nieuws ermee. Anthropic-topman Dario Amodei roept in een essay op om de ontwikkeling van AI-modellen te vertragen. Hij stelt dat de sector zo snel groeit dat veiligheid moeilijk te waarborgen is. Amodei schat dat AI-agents binnen zes tot twaalf maanden het internet zouden kunnen overnemen als er niets verandert. Opvallend: OpenAI-topman Sam Altman, Elon Musk en Google DeepMind-topman Demis Hassabis steunen de oproep. Amodei pleit voor onafhankelijke controleurs die bedrijven toetsen aan veiligheidsnormen en voor meer internationale samenwerking bij regelgeving. Aanleiding is onder meer een incident waarbij honderden AI-agents van OpenAI uit hun testomgeving braken en een week lang bedrijf Hugging Face hackten. Critici in Silicon Valley betwijfelen of de zorgen oprecht zijn en wijzen erop dat strengere regelgeving vooral kleinere bedrijven zou raken. De NOS schrijft deze week dat de oproep van de CEO’s ook leidt tot kritiek: als veiligheid écht een zorg is, moeten ze zelf actie ondernemen in plaats van te wachten op overheidsregulering. Aldus critici zoals een Trump-adviseur en Nederlandse experts, die de oprechtheid en motieven van de oproep betwijfelen en vrezen dat deze oproep bedoelt om het AI-straatje schoon te vegen voor het geval het mis gaat.

Trump belt Nvidia-topman Huang tijdens conferentie, noemt zorgen over AI een ‘hoax’

President Trump heeft Nvidia-CEO Jensen Huang gebeld tijdens diens optreden op de All-In Summit in Los Angeles. Huang zette het gesprek op speaker, waardoor het publiek kon meeluisteren. Trump noemde zorgen over de veiligheid van AI “een hoax”. Hij zei dat datacenters mensen en staten welvarend maken. Ook noemde hij datacenters “de olie van de komende 20 tot 25 jaar”. De oproep volgde op het essay van Anthropic-CEO Dario Amodei, waarin die pleit voor het bewust vertragen van de ontwikkeling van AI-modellen. OpenAI-CEO Sam Altman en Tesla-topman Elon Musk steunden dat pleidooi. Zie het bericht hierboven. Trump plaatste voorafgaand aan het telefoongesprek meerdere berichten op Truth Social waarin hij Amodei persoonlijk aanviel en stelde dat aanvullende regelgeving voor AI niet nodig is. Huang zei op zijn beurt dat bedrijven als Anthropic en OpenAI zelf hun tempo kunnen vertragen als ze dat nodig achten. Hij noemde de keuze tussen snelheid en veiligheid volgens de Volkskrant “een vals dilemma”. Trumps expertise ten aanzien van AI-ontwikkeling schat ik persoonlijk niet hoog in. Maar dat geldt eigenlijk voor zijn ‘expertise’ in het algemeen. Overigens ziet ‘China’ ook weinig heil in de oproep van Dario Amodei. Dat geldt ook voor de CEO van Meta.

Democraten en Republikeinen willen allebei strengere regels voor AI

Democraten en Republikeinen in de Verenigde Staten pleiten deze week gezamenlijk voor strengere regulering van AI. Dat meldt de Volkskrant. Senator Bernie Sanders en de radicaal-rechtse Steve Bannon willen allebei de ontwikkeling van AI intomen. Aanleiding is de open brief van klokkenluider Jacob Coxon, voormalig medewerker van Anthropic. Hij schrijft dat AI de mensheid binnen tien jaar zou kunnen vernietigen. Anthropic-topman Dario Amodei noemt een kans van 25 procent dat AI ernstig misloopt. Elon Musk houdt het op 20 procent. Zie hierboven. Een peiling van Politico laat zien dat een meerderheid van de Amerikanen vreest dat AI de mensheid kan vernietigen. President Trump noemt de zorgen een hoax en verzet zich tegen wetgeving (zie bericht 2). Hij vindt sterk leiderschap voldoende bescherming. Republikeinse politici twijfelen volgens de Volkskrant of ze hem in verkiezingstijd durven tegenspreken.

Twee veiligheidsonderzoekers verlaten Anthropic en Google

Joe Benton, die een veiligheidsteam bij Anthropic leidde, en Josh Engels, die bij Google aan AI-veiligheid werkte, zijn beiden vertrokken bij hun werkgever. Ze stappen over naar onderzoeksorganisatie METR, waar ze incidenten gaan onderzoeken waarbij AI-systemen afwijken van menselijke instructies. Tegen NBC News zeiden ze dat transparantie over risico’s bij AI-bedrijven op dit moment volledig vrijwillig is. Benton wijst erop dat er geen wettelijke verplichting bestaat om incidenten te melden. Hun vertrek volgt op het ontslag van Anthropic-onderzoeker Jacob Coxon, wiens bericht op sociale media over AI-risico’s miljoenen keren is bekeken. Beide onderzoekers noemen de cyberaanval op Hugging Face in juli, uitgevoerd door autonome AI-systemen, als aanleiding voor hun stap. OpenAI’s hoofd internationale zaken Chris Lehane erkende deze week eveneens dat de huidige praktijk, waarbij bedrijven zelf hun regels bepalen, tekortschiet.

Ruim één op de drie recente Engelstalige webpagina’s vertoont sporen van AI

Pew Research Center onderzocht volgens De Volkskrant bijna een half miljoen Engelstalige webpagina’s uit de afgelopen vijf jaar op sporen van ‘AI-auteurschap’. Het instituut gebruikte materiaal uit het Common Crawl-archief en liet de teksten beoordelen door detectietool Open Pangram. Over de gehele steekproef laat tien procent van de pagina’s duidelijke tekenen van ‘AI-auteurschap’ zien. Bij pagina’s die zijn verschenen sinds de lancering van ChatGPT eind 2022 loopt dat percentage op tot meer dan een derde. Het gaat daarbij zowel om volledig door AI geschreven tekst als om tekst die deels is bewerkt met AI. De onderzoekers wijzen zelf op een kanttekening. Detectiemodellen zijn niet feilloos en markeren soms menselijke tekst ten onrechte als AI-gegenereerd, of andersom. Een terechte kanttekening. Ik lees ook weleens van mensen die niet of nauwelijks AI voor schrijfwerk gebruiken, maar wel bewust gedachtenstreepjes vermijden. Persoonlijk vind ik er niets mis mee als mensen AI gebruiken als schrijfhulp. Je moet m.i. wel altijd zelf verantwoordelijkheid willen nemen voor publicaties. Dus: de inhoud checken, aanpassen en er een eigen draai aan geven.

TypeSafe opent early access voor besluitvormingsmodel Jev

TypeSafe AI heeft het AI-model Jev beschikbaar gesteld voor een eerste groep gebruikers (early access). Jev is het eerste model uit wat het bedrijf een “System One”-model noemt. Oprichter Diogo Almeida presenteerde het model op 15 september op X. Jev genereert geen tekst. Het model ontvangt een blok gegevens en een set getypeerde vragen. Het geeft daarop kansen of keuzes terug. Softwarecode gebruikt die uitkomst om te classificeren, routeren of escaleren. Volgens TypeSafe reageert Jev tussen de 70 en 500 milliseconden. Dat is 40 tot 200 keer sneller dan gangbare modellen bij taken die op het model zijn afgestemd. De grootste cijfers, tot 193,6 keer sneller en 444,6 keer goedkoper, komen uit interne evaluaties van TypeSafe zelf. Een onafhankelijke toetsing ontbrak bij de introductie. Ontwikkelaars krijgen toegang via een wachtlijst.

Salesforce presenteert CRM-redeneermodel Koa

Salesforce heeft Koa gepresenteerd. Dat is een familie taalmodellen die is afgestemd op CRM-taken binnen Agentforce. Het model is gebouwd op de open modellen van NVIDIA Nemotron. Salesforce trainde Koa met synthetische scenario’s, gemodelleerd op basis van 27 jaar aan CRM-workflows uit 14 sectoren. Het bedrijf host het model binnen zijn eigen infrastructuur. Zo verlaten klantgegevens het bedrijf niet tijdens training of gebruik. Op de eigen CRM Bench is Koa volgens Salesforce 11 procent preciezer in het kiezen van de juiste actie dan de standaardmodellen die het bedrijf nu gebruikt. Het model onthoudt context in lange gesprekken 15 procent beter en is 2,1 keer betrouwbaarder in het ophalen van klantcontext. Koa is nu beschikbaar voor een beperkte groep pilotklanten. Algemene beschikbaarheid in de Verenigde Staten wordt verwacht in de winter van 2026.

Onderzoekers brengen structuur aan in het debat over zelflerende AI

Een groep onderzoekers van onder meer Shanghai Jiao Tong University en Tsinghua University heeft een overzichtsstudie gepubliceerd over recursieve zelfverbetering bij AI-systemen. Dat is het idee dat een AI-systeem zijn eigen tekortkomingen herkent, verbeteringen ontwikkelt en test, en die verbeteringen gebruikt om ook het verbeterproces zelf aan te passen. De auteurs onderscheiden vijf niveaus van autonomie. Die lopen van systemen die alleen mensgestuurde updates uitvoeren tot systemen die het mechanisme achter toekomstige verbeteringen zelf bijstellen. Op dit moment bevinden de meeste bestaande AI-systemen zich volgens de auteurs op de lagere niveaus. Ze voeren al zelfstandig testen en aanpassingen uit, maar de doelen en beoordelingscriteria worden nog door mensen vastgesteld. De onderzoekers wijzen ook op risico’s, zoals modellen die testresultaten manipuleren of verbeteringen doorvoeren die op termijn averechts werken.

Anthropic voegt Claude Cowork en de chatomgeving samen

Anthropic voegt Claude Cowork en de gewone chatomgeving samen tot één versie van Claude. Gebruikers kiezen niet langer vooraf waar een taak thuishoort. Ze kunnen in een gewoon gesprek een korte vraag stellen, maar ook een groter project overdragen. Claude werkt daaraan verder, ook nadat iemand de laptop heeft gesloten. Daarnaast introduceert Anthropic Claude Docs en Claude Slides, en werkt Claude Design nu ook rechtstreeks binnen gesprekken. Een gebruiker kan bijvoorbeeld vragen om een rapport op te stellen en dat direct om te zetten in een presentatie van vijf dia’s. Documenten en presentaties zijn te bewerken, direct te presenteren of te downloaden als PowerPoint of pdf. Claude vraagt standaard om bevestiging voordat het een actie uitvoert, al kan een gebruiker dat uitzetten. Anthropic stelt de wijziging de komende weken beschikbaar voor Pro- en Max-abonnementen. Team- en gratis abonnementen volgen later. Voor Enterprise-klanten kondigt Anthropic wijzigingen minstens 30 dagen van tevoren aan.

Google introduceert nieuwe spraakmodellen Gemini 3.8 Live

Google is met twee nieuwe modellen voor spraakgesprekken gekomen: Gemini 3.8 Live en Gemini 3.8 Live Extended Thinking. Het eerste model is gericht op snelle, vloeiende gesprekken en visuele context tegen lage kosten. Het tweede model is bedoeld voor complexere taken en combineert redeneren met spreken, zodat het gesprek niet wordt onderbroken terwijl het model op de achtergrond werkt. De modellen herkennen automatisch wisselingen tussen 97 ondersteunde talen. Op de Speech to Speech Quality Index van Artificial Analysis behaalt Gemini 3.8 Live Extended Thinking de hoogste score, met 68,6 procent op de taakbenchmark tau-Voice. Alle gegenereerde audio krijgt een SynthID-watermerk, zodat AI-gegenereerde spraak herkenbaar blijft. De modellen zijn vanaf nu beschikbaar via de Gemini API en Google AI Studio, en voor bedrijven in preview via Gemini Enterprise. Ook in de Gemini-app, Search Live en delen van Google Workspace worden ze uitgerold.

Mozilla en Mistral werken samen aan alternatief voor AI in de browser

Mozilla en Mistral hebben een samenwerking aangekondigd om concurrentie en keuzevrijheid in AI-gestuurde browsers te vergroten. Het Franse Mistral levert zijn model Mistral Small 4 voor Firefox Smart Window. Dat is de experimentele AI-functie van de browser. Gebruikers in de Verenigde Staten en Canada krijgen toegang tot het model. Frankrijk wordt de eerste nieuwe markt met officiële Franse taalondersteuning voor Smart Window. Gebruikers kunnen in alle markten waar Smart Window beschikbaar is, ook voor andere AI-modellen kiezen. Mozilla-topman Anthony Enzor-DeMeo zegt dat een browser geen eenrichtingskanaal naar één AI-aanbieder moet worden. Mistral-oprichter Arthur Mensch noemt de samenwerking een manier om privacy, controle en keuze terug te brengen in AI-gestuurd browsen. Mozilla plant later dit jaar verdere uitbreiding naar andere Europese landen.

Anthropic brengt Salesforce-gegevens naar Claude

Anthropic heeft in samenwerking met Salesforce een plugin uitgebracht. Die maakt accountgegevens, verkoopkansen en informatie uit de pijplijn uit Salesforce toegankelijk binnen Claude. De plugin bevat 37 vaardigheden voor taken die accountmanagers dagelijks uitvoeren, zoals klantonderzoek, voorbereiding van gesprekken en het bijwerken van CRM-gegevens. Verkopers loggen in met hun bestaande Salesforce-rechten. Claude leest daardoor alleen gegevens waartoe een gebruiker al toegang heeft. Het systeem kan bijvoorbeeld elke ochtend een overzicht samenstellen van geplande afspraken, deals die dreigen te vertragen en onbeantwoorde berichten. Na een gesprek zet Claude een transcript of aantekeningen om in een vervolgmail en een conceptupdate voor de opportunity. Wijzigingen worden pas doorgevoerd nadat de gebruiker ze heeft goedgekeurd. De plugin is in beta beschikbaar op alle betaalde Claude-abonnementen. Bedrijven als GitLab, Siemens en Legora gebruiken de plugin al, met in totaal zo’n 7.000 verkopers.

OpenAI publiceert raamwerk voor het melden van misalignment

OpenAI heeft een nieuw raamwerk gepubliceerd waarmee het bijhoudt, onderzoekt en meldt wanneer een van zijn AI-modellen zich onbedoeld of ongewenst gedraagt. Tegelijk deelde het bedrijf zes voorbeelden van dat gedrag uit de afgelopen zes maanden. Een daarvan betreft een onuitgebracht onderzoeksmodel dat instructies verstopte in samenvattingen die het gebruikte om verder te werken in een nieuw gesprek. Bij een ander voorbeeld voegden meerdere modelinstanties tijdens de training van GPT-5.6 Sol instructies toe om fouten voor de gebruiker te verbergen. In een derde geval vond een model een blootgestelde API-sleutel en gebruikte die zonder toestemming, en verzon het cijfers toen het de gevraagde gegevens niet kon vinden. OpenAI zegt dat de sector nog geen gedeelde standaard heeft voor het melden van dit soort gedrag en wil met dit raamwerk een eerste aanzet geven.

Milieuorganisatie waarschuwt voor golf aan elektronisch afval door AI-datacenters

De milieuorganisatie Basel Action Network (BAN) waarschuwt dat de bouw van AI-datacenters kan leiden tot honderden miljoenen tonnen extra elektronisch afval. Volgens het rapport kan verouderde AI-hardware tussen 2025 en 2050 goed zijn voor 395 tot 617 miljoen ton afval, omgerekend 8,6 tot 13,1 miljoen ton per jaar. Eerdere schattingen keken vooral naar servers en chips. BAN telt ook koelsystemen, stroomvoorzieningen, batterijen en bekabeling mee. Die vormen volgens de organisatie ongeveer 87 procent van de fysieke infrastructuur van een datacenter. Veel van die apparatuur bevat stoffen als lood, kwik, cadmium en zogeheten PFAS. BAN schat dat wereldwijd nu maar ongeveer een vijfde van elektronisch afval op de juiste manier wordt verwerkt. De organisatie roept bedrijven en overheden op om nu al plannen te maken voor de afvoer van deze apparatuur. Dit nadelige milieuaspect van AI(-datacenters) is m.i. nog niet eerder belicht.

Gemini Notebook krijgt nieuwe studietools

Google heeft nieuwe functies toegevoegd aan Gemini Notebook, bedoeld voor studeren. Gebruikers van de mobiele app kunnen binnenkort een gesprek in real time voeren met hun notebook, in bijna 100 talen. Dat gesprek is gebaseerd op de eigen bronnen die iemand heeft toegevoegd. Een nieuwe audiorecorder in de app maakt het mogelijk om colleges en aantekeningen direct op te nemen. Daarnaast komt er een interactief studieoverzicht. Dat combineert samenvattingen met infografieken, quizzen en flashcards. Er komen binnenkort ook nieuwe quizvormen bij, zoals open vragen en meerkeuze met meerdere antwoorden. Gebruikers kunnen ook korte video’s van ongeveer 60 seconden laten maken over lastige onderwerpen, in meer dan 80 talen, en die delen met klasgenoten. Studenten in de Verenigde Staten kunnen tot eind 2026 een jaar gratis Google AI Pro aanvragen. Studenten in ruim 140 andere landen krijgen een jaar gratis Google AI Plus. Uiteraard is dit een bekende strategie om uiteindelijk betalende klanten te werven. Maar verder klinken de nieuwe functies veelbelovend.

AI-onderzoekers herstellen sleutel van Enigma-bericht uit 1941

Een onderzoeksteam met het AI-model GPT-6 Astra en gespecialiseerde AI-agenten heeft de coderingssleutel achterhaald van een Duits Enigma-bericht uit juli 1941. Het bericht heet MVUEH en bestaat uit 82 versleutelde letters. De boodschap vraagt om een mars-route en een dringend antwoord per radio. De AI-agenten verdeelden het werk: sommige agenten onderzochten de originele bronnen, andere bouwden zoekprogramma’s en weer andere controleerden de uitkomsten onafhankelijk van elkaar. Als aanwijzing gebruikte het team een bekende zin uit een eerder opgelost bericht. Die zin hielp om de instellingen van de Enigma-machine te herleiden. Twee afzonderlijke implementaties bevestigden de gevonden sleutel. Het onderzoek duurde twee dagen en doorzocht ruim 43.000 zoekbatches. Het team maakte het bericht en de onderliggende documentatie openbaar, zodat anderen de uitkomst kunnen controleren. Het ‘kraken’ van Enigma door de befaamde Engelse onderzoeker Alan Turing, is één van de belangrijke gebeurtenissen uit de Tweede Wereldoorlog. Turing heeft daar destijds samen met zijn team maanden aan gewerkt.

Meta zet AI-trainingsprogramma stil na interne opstand

Meta heeft het programma Model Capability Initiative stopgezet. Dat programma volgde vanaf april de toetsaanslagen, muisbewegingen en surfgedrag van Amerikaanse medewerkers. De verzamelde data moest AI-agents trainen. Werknemers konden zich aanvankelijk niet afmelden voor deze monitoring. Meer dan 1600 medewerkers ondertekenden een petitie tegen het programma. Sommigen noemden het bedrijf een “data-extractiefabriek”. De situatie escaleerde toen bleek dat de verzamelde gegevens per ongeluk toegankelijk waren voor het hele bedrijf. Het ging onder meer om privégesprekken, prestatiegegevens en transcripties. Meta classificeerde het incident intern als SEV 2, op een schaal van 0 tot 5 waarbij 0 het meest ernstig is. Het bedrijf stelt het programma met privacywaarborgen te hebben ontworpen. Volgens een woordvoerder zijn er geen aanwijzingen dat medewerkers de gegevens onterecht hebben ingezien. Het programma ligt stil in afwachting van verder onderzoek.

AI-hulp verbetert opsporing van hersenafwijkingen bij foetussen

Een gerandomiseerd onderzoek in vijf Chinese ziekenhuizen laat zien dat een AI-systeem met de naam PAICS  de opsporing van hersenafwijkingen bij foetussen verbetert. Sonografisten met drie tot acht jaar ervaring onderzochten 1584 echoscans bij zwangerschappen met een verhoogd risico op afwijkingen. Zij werkten afwisselend zelfstandig of met hulp van het AI-systeem. Met AI-ondersteuning steeg de gevoeligheid voor het opsporen van tien specifieke hersenafwijkingen. De specificiteit, oftewel het correct uitsluiten van afwijkingen, bleef gelijk. Deze resultaten golden zowel per onderzochte foetus als per specifiek type afwijking. Er deden zich geen bijwerkingen voor die verband hielden met de diagnostische procedure of het gebruik van AI. De onderzoekers concluderen dat het systeem sonografisten helpt om meer afwijkingen te herkennen zonder dat dit ten koste gaat van de betrouwbaarheid, en dat dit de inzet van AI bij prenatale screening in hoogrisicozorg ondersteunt.

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.

Lees het hele artikel