Waar ik me de afgelopen week over verwonderd heb, als het gaat om generatieve AI (deel 56)
Elke week vraag ik me af: zou ik me aan het eind van deze week weer verwonderd hebben over AI-gerelateerd nieuws? En wekelijks moet ik deze vraag bevestigend antwoorden. Deze week verscheen bijvoorbeeld onderzoek waaruit blijkt AI-screeningssoftware discrimineert. Verder was er op de valreep belangrijk nieuws van Anthropic, en bleek Google Deepmind negen hardnekkige wiskundeproblemen opgelost te hebben.
Habemus encyclicam de intellectu artificiali
Verleden week schreef ik al dat Paus Leo XIV werkte aan een encycliek over AI. Inmiddels is deze Magnifica Humanitas gepubliceerd. Het is ook de eerste encycliek van deze paus. Het document richt zich op de vraag hoe de menselijke waardigheid beschermd kan worden in een tijdperk dat wordt bepaald door AI en digitale technologie. De paus positioneert AI niet als inherent goed of slecht, maar benadrukt dat elke technologie de waarden weerspiegelt van degenen die haar ontwerpen, financieren en inzetten. Bijzondere aandacht gaat naar de machtsconcentratie bij een klein aantal private technologiebedrijven, die naar zijn oordeel onvoldoende publieke verantwoording afleggen. De encycliek roept op tot transparantie, democratisch toezicht en een eerlijke verdeling van de voordelen van technologie. Dat is inclusief toegang tot algoritmen en data als gemeenschappelijk goed. Verder waarschuwt de paus voor AI in de context van oorlogvoering: beslissingen over leven en dood mogen niet worden gedelegeerd aan autonome systemen. Het document bouwt voort op de sociale leer van de kerk en plaatst AI-governance nadrukkelijk binnen kaders als subsidiariteit, solidariteit en sociaal rechtvaardigheid.
AI-screeningssoftware blijkt zwarte sollicitanten onevenredig hard te benadelen
Onderzoekers van Stanford University, Chapman University en Northeastern University analyseerden 4 miljoen sollicitaties van 3 miljoen unieke kandidaten, allemaal beoordeeld door algoritmen van dezelfde aanbieder. Ze stellen vast bijna 26% van de sollicitaties van zwarte kandidaten terechtkwamen bij werkgevers waar het AI-systeem hun groep benadeelde. Voor Aziatische kandidaten was dat bijna 15 procent. Als het systeem zwarte en Aziatische kandidaten even vaak had doorverwezen als de meest bevoordeelde groep -dat blijken doorgaans witte kandidaten te zijn- dan zouden 40.000 extra sollicitaties de volgende ronde hebben gehaald. Omdat veel werkgevers algoritmen van dezelfde leveranciers gebruiken, leidt dat tot wat de onderzoekers “algoritmische monocultuur” noemen. Wie bij één werkgever door het algoritme wordt afgewezen, loopt een verhoogd risico bij meerdere werkgevers dezelfde uitkomst te krijgen. Van de kandidaten die tien sollicitaties instuurden, werd 4 procent bij alle tien afgewezen. Dat is vaker dan op basis van toeval verwacht mag worden.
Erin Brockovich richt platform op om groei AI-datacenters in VS te volgen
Milieuactiviste Erin Brockovich heeft een platform opgezet om de uitbreiding van AI-datacenters in de Verenigde Staten in kaart te brengen. Dat platform heet Brockovich Data Center Reporting. Het toont waar datacenters operationeel zijn, waar gebouwd wordt en welke projecten in voorbereiding zijn. Volgens de website gaat het om 33 operationele locaties, 52 in aanbouw en 30 in voorbereiding. Daarnaast zijn er ruim 2.700 meldingen binnengekomen van bewoners. Het platform richt zich op thema’s als energieverbruik, watergebruik, elektronisch afval en geluidsoverlast. Brockovich roept bewoners op misstanden te melden en wil zo publieke aandacht vestigen op de fysieke gevolgen van AI-infrastructuur voor lokale gemeenschappen.
Anthropic presenteert nieuwe AI-modelversie en haalt 65 miljard dollar op
Anthropic publiceerde aan het eind van deze week twee opvallende berichten. Het bedrijf heeft Claude Opus 4.8 uitgebracht. Dat is een bijgewerkte versie van het Opus-model. De nieuwe versie scoort beter op onder andere programmeertaken en redeneren, en is volgens Anthropic betrouwbaarder bij langdurige, zelfstandig uitgevoerde taken. Zo zou het model minder snel onterechte claims doen over de eigen voortgang. Het model zal eerder onzekerheden signaleren dan ongefundeerde beweringen doen. Dat is best een belangrijke ontwikkeling. Tegelijk kondigde Anthropic aan 65 miljard dollar te hebben opgehaald in een zogenaamde Series H-financieringsronde. Dat brengt de waardering van het bedrijf op 965 miljard dollar. De omzet op jaarbasis bedroeg eerder deze maand al 47 miljard dollar. Het geld is bedoeld voor veiligheidsonderzoek, uitbreiding van de rekencapaciteit en verdere productontwikkeling. Onder de investeerders bevinden zich onder meer Altimeter Capital, Sequoia Capital en Amazon.
Apple werkt aan zelfstandige Siri-app om te concurreren met ChatGPT
Vlak voor Apple’s jaarlijkse ontwikkelaarsconferentie WWDC heeft Bloomberg volgens TechCrunch beelden gepubliceerd van de geplande AI-vernieuwingen in iOS 27. Apple werkt aan een zelfstandige Siri-app die direct moet concurreren met chatbots als ChatGPT, Claude en Gemini. De app toont gespreksgeschiedenis en ondersteunt het uploaden van documenten en foto’s. Siri krijgt ook een nieuwe zoekfunctie die geactiveerd wordt via de vertrouwde veegbeweging naar beneden. Die zoekfunctie gebruikt onder de motorkap de AI-technologie van Google Gemini. Voor snelle vragen werkt Siri voortaan via de Dynamic Island, het zwarte gebied bovenaan het scherm. Apple bouwt tegelijkertijd aan eigen AI-modellen die lokaal op apparaten draaien, zonder verbinding met de cloud. Apple heeft wereldwijd 2,5 miljard actieve apparaten, tegenover 900 miljoen wekelijkse gebruikers van ChatGPT.
Biohub brengt open AI-systeem voor eiwitonderzoek uit
Biohub, een initiatief van Priscilla Chan en Mark Zuckerberg, heeft een reeks AI-modellen uitgebracht onder de naam Evolutionary Scale Models. Het systeem is gericht op het voorspellen, ontwerpen en ontdekken van eiwitten. De kern bestaat uit drie onderdelen. ESMC is een taalmodel dat eiwitten representeert op basis van 2,8 miljard sequenties. ESMFold2 voorspelt eiwitstructuren en ontwerpt nieuwe bindende moleculen. Het presteert daarbij beter dan AlphaFold 3 op meerdere benchmarks, waaronder de voorspelling van antilichaam-antigeen-interacties. In laboratoriumexperimenten werden met ESMFold2 binders ontworpen tegen vijf kanker- en immuundoelwitten, met succespercentages tussen de 36 en 88 procent. Het derde onderdeel, ESM Atlas, brengt 6,8 miljard eiwitsequenties en 1,1 miljard voorspelde structuren in kaart. Alle onderdelen zijn vrij beschikbaar. De potentie van AI voor het bestrijden van ernstige ziektes is groot, al zal de impact op behandelingen op korte termijn beperkt zijn. Tegelijkertijd moet je de investeringen van het miljadairs-echtpaar ook niet los zien van het streven naar onsterfelijkheid (waar meer big tech-miljardairs mee bezig zijn).
Trajectory haalt 15 miljoen dollar op voor AI die leert van gebruikersgedrag
Trajectory is een nieuw Amerikaans bedrijf dat is opgericht door onderzoekers van onder meer DeepMind, OpenAI en Apple. Zij hebben 15 miljoen dollar opgehaald voor een platform dat AI-modellen continu bijtraint op basis van gebruiksdata. Het systeem registreert correcties, herhaalde pogingen en bewerkingen die gebruikers doen in een product, en gebruikt die signalen om het onderliggende model stap voor stap te verbeteren. Dat staat in contrast met de gangbare aanpak waarbij een model na de trainingsfase niet meer wordt aangepast. De financieringsronde werd geleid door Conviction en Bessemer Venture Partners. Eerste klanten zijn onder andere Clay, Harvey en Decagon. Momenteel worden modellen wekelijks bijgetraind. Trajectory werkt aan een kortere cyclus, met als doel modellen bij elke interactie bij te kunnen stellen.
Veiligheidsmaatregelen open-source AI-modellen eenvoudig te omzeilen
Softwaretools waarmee veiligheidsmaatregelen van open-source AI-modellen worden verwijderd, zijn al door duizenden gebruikers ingezet om aangepaste versies te maken van modellen van Meta en Google. Dat bericht The Irish Times op basis van een publicatie in de Financial Times. Dit medium kon met behulp van een tool genaamd Heretic, vrij beschikbaar via GitHub, de beveiliging van Meta’s Llama 3.3-model in minder dan tien minuten verwijderen. Dat vereiste geen specialistische hardware. Een aangepaste versie van Google’s Gemma 3-model reageerde vervolgens op vragen over biologische wapens, genereerde code voor creditcardfraude en produceerde teksten met kindermisbruik. Volgens onderzoekers verloopt dit proces steeds eenvoudiger naarmate AI-modellen krachtiger worden. De techniek, bekend als “abliteration“, werkt alleen bij open-source modellen. Gesloten systemen zoals ChatGPT en Claude zijn er minder gevoelig voor, omdat de onderliggende code niet openbaar toegankelijk is.
Google DeepMind lost negen wiskundeproblemen op
AlphaProof Nexus van Google DeepMind is een AI-raamwerk dat wiskundige bewijzen genereert die machinaal worden geverifieerd. Het systeem loste negen open problemen op uit het zogenaamde Erdős-archief, waaronder twee die al 56 jaar onopgelost waren, op het gebied van combinatoriek en grafentheorie. AlphaProof Nexus combineert een taalmodel met Lean. De kosten per opgelost probleem lagen op enkele honderden dollars. Daarnaast bewees het systeem 44 open vermoedens uit de Online Encyclopedia of Integer Sequences. Problemen waarvoor volledig nieuwe wiskundige constructies nodig zijn, bleven buiten bereik. De aankondiging volgde een dag na een vergelijkbare claim van OpenAI, dat een 80 jaar oud Erdős-vermoeden wist te weerleggen, maanden nadat het bedrijf een eerdere claim over tien nieuwe oplossingen had teruggetrokken.
AI verdubbelt codeersnelheid van ontwikkelaars, maar productiviteitswinst is ongelijk verdeeld
Cursor heeft een rapport gepubliceerd over hoe AI het werk van softwareontwikkelaars verandert, gebaseerd op eigen gebruiksdata. Het aantal regels code dat ontwikkelaars per week toevoegen is binnen een jaar verdubbeld, en zogenaamde pull requests bevatten 2,5 keer meer regels dan een jaar eerder. Tegelijkertijd neemt het aantal AI-gegenereerde wijzigingen dat zonder handmatige review wordt geaccepteerd snel toe: sinds begin 2026 is dat aandeel meer dan verviervoudigd. De productiviteitswinst is echter sterk geconcentreerd bij een kleine groep: de top 1% van ontwikkelaars produceert 46 keer meer regels per dag dan de gemiddelde gebruiker. Ook valt op dat AI-modellen steeds meer context inlezen vóór ze code schrijven. Inputtokens maken inmiddels meer dan 90% uit van het totale token-volume. Dat duidt op uitgebreidere voorbereiding vóór het genereren van output.
Anthropic vindt meer dan 10.000 kwetsbaarheden in één maand
Anthropic heeft de eerste resultaten gedeeld van Project Glasswing. Dat is het programma waarbij Claude Mythos Preview samenwerkt met circa vijftig partners om beveiligingslekken in software op te sporen. In één maand tijd werden meer dan 10.000 kwetsbaarheden van hoge of kritieke ernst gevonden. Cloudflare vond er 2.000 met een lager ‘false positive’-percentage dan menselijke testers. Mozilla vond en verhielp 271 kwetsbaarheden in Firefox. Bij een scan van meer dan 1.000 open-source projecten markeerde Mythos 6.202 problemen als ernstig; na onafhankelijke beoordeling bleek 62 procent daarvan terecht. Een partnerbank gebruikte het systeem ook om een frauduleuze overboeking van 1,5 miljoen dollar te detecteren en te blokkeren. Project Glasswing wordt nu uitgebreid naar nieuwe partners, waaronder overheden.
OpenAI Foundation trekt 250 miljoen dollar uit voor economische gevolgen van AI
De OpenAI Foundation heeft aangekondigd 250 miljoen dollar te besteden aan onderzoek en initiatieven rondom de economische gevolgen van AI. Het programma richt zich op drie terreinen: het meten van de economische effecten van AI, het ondersteunen van werknemers en gemeenschappen tijdens de overgang, en het ontwikkelen van mechanismen voor een bredere verdeling van economische opbrengsten. Het gaat daarbij onder meer om het in kaart brengen van verschuivingen in lonen, werkgelegenheid en winstmarges. Voor de transitie wordt gekeken naar uitkeringsregelingen, omscholing en nieuwe vormen van arbeidsmarktbeleid. Op langere termijn onderzoekt de Foundation onder andere belastingheffing op kapitaal in plaats van arbeid, en vormen van publiek aandeelhouderschap. De eerste concrete initiatieven worden later dit jaar bekendgemaakt. De adoptie van AI kan een ontwrichtende werking hebben, die ten koste kan gaan van werkgelegenheid en welbevinden. Het zijn de eigenaren en aandeelhouders van de grote technologie-reuzen die hiervan financieel gaan profiteren. Een ander sociaal beleid is nodig om de nog grotere maatschappelijke ongelijkheid, die hierdoor ontstaat, tegen te gaan. Met 250 miljoen kom je dan trouwens niet ver.
AI-gebruik duurder dan medewerkers: bedrijven remmen af
Microsoft heeft de meeste directe Claude Code-licenties opgezegd en stuurt engineers voortaan naar GitHub Copilot CLI. Zes maanden eerder moedigde het bedrijf nog duizenden medewerkers aan om Claude Code te gebruiken. Het gebruik groeide zo snel dat de kosten onhoudbaar werden. Uber maakte zijn volledige AI-budget voor 2026 al in vier maanden op. Nvidia-topman Bryan Catanzaro stelde dat de kosten voor rekenkracht voor zijn team ver boven de personeelskosten uitkomen. Gartner voorspelt dat goedkopere tokens niet leiden tot lagere AI-kosten voor bedrijven, omdat agentische AI-modellen per taak veel meer tokens verbruiken dan standaardmodellen en aanbieders lagere kosten niet volledig doorberekenen aan klanten. Goldman Sachs verwacht dat het tokenverbruik tegen 2030 24 keer hoger ligt dan nu. De economie van grootschalig AI-gebruik blijkt ingewikkelder dan eerder aangenomen.
Vier gedragsregels voor AI-codeerassistenten verhogen nauwkeurigheid sterk
Andrej Karpathy, mede-oprichter van OpenAI en voormalig AI-topman bij Tesla, bekritiseerde AI-codeerassistenten omdat ze raden in plaats van vragen, onnodig bestanden aanpassen en code ingewikkelder maken dan nodig. Ontwikkelaar Forrest Chang vertaalde die kritiek naar vier gedragsregels in een CLAUDE.md-bestand. Dat bestand schrijft voor dat een AI-assistent aannames expliciet maakt, bij onduidelijkheid vraagt in plaats van raadt, zo min mogelijk code schrijft, alleen wijzigt wat gevraagd wordt, en vage opdrachten omzet in controleerbare doelen vóór het coderen begint. Volgens de beschrijving steeg de codeernauwkeurigheid hiermee van 65 naar 94 procent. Het bestand is meer dan 220.000 keer gedownload via GitHub. Claude Code leest een CLAUDE.md-bestand automatisch in aan het begin van elke sessie.
Jensen Huang: studierichting is minder belangrijk dan hoe je AI inzet
Nvidia-topman Jensen Huang vindt dat ouders zich geen zorgen hoeven te maken over wat hun kinderen studeren. In een interview met het Singaporese Channel NewsAsia stelde hij dat vakgebieden als journalistiek, kunst en design ook in een door AI gedomineerde wereld relevant blijven. Huang raadt jongeren aan zich niet af te vragen wélk vak nog toekomstbestendig is, maar hóe AI hun werk kan versterken. “Stel jezelf de vraag: hoe kan AI mijn leren, mijn vak, mijn doel naar een hoger niveau tillen?” Huang nuanceert de noodzaak om afscheid te nemen van huidige bekwaamheden, ten gunste van bekwaamheden die gerelateerd zijn. AI.
OpenADE biedt teams meer controle over AI-gestuurde codering
Bearly AI is met een update voor OpenADE gekomen. Dat is een gratis, open-source tool waarmee teams AI kunnen inzetten bij het schrijven van code. Het onderscheid met andere AI-codeertools zit in de werkwijze: in plaats van een agent direct op code los te laten, werkt OpenADE met een vaste stap-voor-stap-aanpak. Een taak resulteert eerst in een gedetailleerd plan dat teamleden kunnen becommentariëren en aanpassen. Pas daarna wordt het uitgevoerd, met automatische git-snapshots als terugvaloptie. De update voegt ondersteuning toe voor GPT-5.5 en Codex, het meest recente agentic codeermodel van OpenAI. Claude Code wordt ook ondersteund. De tool werkt lokaal. Dat betekent dat code niet naar externe servers wordt gestuurd.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel