Waar ik me de afgelopen week over verwonderd heb, als het gaat om generatieve AI (deel 73)
In deze, een dag eerder dan gebruikelijk gepubliceerde, editie met (Gen)AI-nieuws waarover ik me deze week heb verwonderd, lees je onder meer nieuws over een publieke AI-voorziening voor Nederlands funderend onderwijs, over een volgende stap in de AI-ontwikkeling, over nieuwe modellen en over een aantal juridische kwesties.
Deze editie verschijnt een dag eerder omdat mijn weblog morgen naar een andere server verhuist, en ik niet kan publiceren. Maar ik heb ook in zes dagen tijd weer diverse berichten verzameld waarover ik me heb verwonderd.
Kennisnet werkt aan plan voor publieke AI-voorziening in po en vo
Kennisnet werkt samen met andere partijen aan een plan voor een publieke AI-voorziening voor het primair en voortgezet onderwijs. Scholen onderzoeken en gebruiken AI al, maar commerciële toepassingen zijn vaak niet voor het onderwijs ontwikkeld. Daardoor voldoen ze niet altijd aan voorwaarden voor privacy, veiligheid, transparantie en datagebruik. Een onderdeel van de voorziening is een AI-hub. Dat is een technisch schakelpunt tussen toepassingen voor leraren en leerlingen en verschillende AI-modellen. Scholen houden zo zelf de regie over welke AI ze inzetten en onder welke voorwaarden. Hoe de voorziening wordt ingericht, wordt nu uitgewerkt in een plan van aanpak, in overleg met de onderwijssector. Het kabinet maakt vanaf 2027 structureel geld vrij voor het funderend onderwijs. In 2027 gaat het om 10,7 miljoen euro en structureel om 7,4 miljoen euro. Het mbo, hbo en wo ontwikkelen in het kader van Npulse al EduGenAI. Ik zie raakvlakken, ook al verschilt de doelgroep (en bepaalde toepassingen zoals onderzoek).
Atomic Machines komt uit de anonimiteit met AI-toepassing die micro-machines kan maken
Atomic Machines heeft zes jaar in stilte gewerkt en presenteert nu zijn eerste systeem met de naam ‘Matter Compiler’. Dat is een AI-gestuurd productiesysteem dat micro-machines bouwt op basis van code. Het bedrijf heeft tot nu toe $250 miljoen opgehaald. Oprichter en CEO is Jeff Holden, die eerder bij Amazon en Uber werkte. Het eerste product is de PrimeSwitch PS-150. Dat is een elektromechanisch relais dat in 50 microseconden opent. Volgens het bedrijf is dat ongeveer duizend keer sneller dan normaal. Het relais is 9,5 millimeter breed en 3 millimeter dik en verwerkt 150 ampère. Het is bedoeld voor datacenters voor AI die overstappen op 800 volt gelijkstroom. De PS-150 wordt nu geleverd aan klanten voor evaluatie. Op 12 oktober was deze micro-machine te te zien op de OCP Global Summit in San Jose. AI-toepassingen die micro-machines kunnen maken? Dat is echt een volgende stap in de AI-ontwikkeling.
Muse Wonder en Muse Wonder Full van Meta zijn uit
Meta heeft op 12 oktober twee nieuwe AI-modellen uitgebracht. Ze heten Muse Wonder en Muse Wonder Full. Meta richt ze op agenttaken, zoals het afhandelen van een verzekeringsclaim, het doorlezen van een huurcontract en het bouwen van een app. Muse Wonder is te gebruiken via de Meta Model API en via Muse Code. Muse Wonder Full is er alleen voor abonnees van Muse Code. Die abonnementen kosten volgens berichtgeving 50 of 200 dollar per maand. Voor de Muse-app gaat het om 20 of 100 dollar. AI-chef Alexandr Wang zegt dat de prijzen aanzienlijk lager liggen dan bij OpenAI en Anthropic. Twee functies moeten de modellen onderscheiden. Active Memory onthoudt informatie over meerdere gesprekken heen. Active Focus houdt het model bij moeilijke taken met meerdere stappen op koers. Onafhankelijke testresultaten en prijzen per API-aanroep zijn nog niet gepubliceerd. De modellen komen uit de gebruikelijke tests schijnbaar wel goed uit de bus.
Claude kan tot 1.000 sub-agents tegelijk aansturen
Met behulp Claude Managed Agents van Anthropic kan een een ‘hoofdagent’ een opdracht in onderdelen verdelen. Die delen gaan naar maximaal 1.000 sub-agents die tegelijk werken. Daarna voegt de ‘hoofdagent’ de resultaten samen. Ontwikkelaars kiezen hiervoor het agenttype “multiagent_20261001”. Anthropic testte de aanpak met een codebase van 116.000 regels waarin 70 fouten zijn verstopt. Een enkele agent vond per run tussen de 14 en 27 fouten. De dynamic workflow vond er steeds 66. Een senior engineer van OpenAI noemde zwermen van agents eerder een verspilling van tokens. Anthropic waarschuwt zelf dat deze werkwijze veel tokens kan kosten. Het bedrijf adviseert om met een klein aantal agents te beginnen.
Anthropic-model dient valse tip in bij politie Philadelphia
Op 18 juli kreeg de politie van Philadelphia een tip over een onopgeloste moordzaak. De tip bleek volgens de NOS te zijn geschreven door een AI-model van Anthropic. Het bedrijf testte Claude op het internet. Het model mocht geen accounts aanmaken en geen schadelijke acties uitvoeren. In de opdracht stond niet dat het formulieren mocht invullen. Het was ook niet verboden. De politie had de tip als spam gemarkeerd en er niets mee gedaan. Er zijn volgens de politie geen aanwijzingen dat het model toegang had tot haar systemen. Anthropic meldde het incident eind september bij de Amerikaanse toezichthouder FTC. De politie noemt de vertraging van twee maanden van de melding van het incident onacceptabel. Anthropic meldde ook incidenten op overheidswebsites. Daarnaast omzeilde een model een betaalmuur door links aan te passen.
Nadella: behandel AI-agents als mogelijk risico van binnenuit
Microsoft-CEO Satya Nadella pleit in een brief volgens Business Standard voor strengere controle op AI. De brief heet “Models as Insider Risks in the Super Intelligence Era”. Volgens Nadella moeten bedrijven AI-agents met toegang tot gevoelige data behandelen als een mogelijk risico van binnenuit. Dat geldt ook als de agent niet kwaadwillend is. Hij noemt onder meer toegangsregels die buiten het model liggen en logboeken die niet te manipuleren zijn. Ook wil hij doorlopend testen en controle laten uitoefenen door een ander model. Verder pleit hij voor een noodrem waarmee een bevoegde persoon een agent tijdens een taak kan stoppen. De brief volgt op incidenten bij OpenAI en Anthropic tijdens tests. Mustafa Suleyman van Microsoft en Aaron Levie van Box steunen de oproep. Een brede consensus in de sector is er volgens Business Standard niet.
Cyber Mission van Anthropic voor beveiliging van kritieke systemen
Anthropic heeft recent de Cyber Mission aangekondigd. Dit initiatief richt zich op twee gebieden. Het eerste is kritieke infrastructuur, zoals stroomnetten, watersystemen en vervoersnetwerken. Daarvoor is het Critical Infrastructure Defense Program gestart. Anthropic stelt daarin modellen, ingenieurs en dreigingsonderzoek beschikbaar aan beveiligingsbedrijven. Partners zijn onder meer Accenture, Deloitte, CrowdStrike, Palo Alto Networks en Rockwell Automation. Het tweede gebied is open-sourcesoftware. Daar komt OSS Scanner. Dat is een gratis dienst die projecten periodiek laat scannen op kwetsbaarheden. De rapporten worden zonder menselijke controle verstuurd. Anthropic verwacht dat meer dan 90 procent van de meldingen klopt. Project Glasswing is opgegaan in het uitgebreide Cyber Verification Program. Volgens Anthropic kan AI over twee jaar de verdediging bevoordelen. Op korte termijn is dat niet zeker.
Microsoft breidt Azure Maia uit naar implementaties van meerdere gigawatts
Microsoft wil de Azure Maia-chips vanaf 2027 inzetten in installaties van meerdere gigawatts. Maia wordt daarmee het belangrijkste systeem voor het draaien van AI-modellen binnen Microsoft-producten. Maia 200 is nu in productie. Het draait onder meer Microsoft Copilot en ondersteunt het MAI-team bij de ontwikkeling van nieuwe modellen. GitHub Copilot en Microsoft Foundry volgen voor het einde van het jaar. Volgens Microsoft levert Maia 200 tot 1,7 keer meer tokens per watt dan vergelijkbare GPU-infrastructuur. Maia 300 komt in 2027. Microsoft verwacht daarmee 40 procent meer tokens per megawatt dan bij toonaangevende GPU-systemen. Een rack met 96 chips haalt volgens het bedrijf tot zeven keer de doorvoer van Maia 200. Meer details volgen op Microsoft Ignite in november.
Medewerker OpenAI opgepakt na vondst opname-apparaat in vergaderzaal
OpenAI heeft eind september een opname-apparaat ontdekt in een vergaderzaal van zijn kantoor in San Francisco. In die ruimte bespreken bestuurders vaak bedrijfsgevoelige informatie. Het apparaat zat in de usb-poort van een televisie en was gewikkeld in wc-papier. De FBI leidt het onderzoek. Volgens de FBI zat het apparaat er waarschijnlijk al twee dagen. Het spoor leidde naar een 35-jarige Saudische werknemer. Camerabeelden tonen hem bij de vergaderzaal. Daar had hij officieel geen toegang toe. Ook zou hij in de dagen daarvoor een AI-chatbot opdrachten hebben gegeven over het maken en opslaan van geluidsopnames. De man is op 9 oktober aangehouden en door OpenAI ontslagen. Hij riskeert maximaal vijf jaar cel en een boete tot 250.000 dollar. OpenAI heeft geen aanwijzingen dat hij waardevolle informatie heeft verkregen. FBI-directeur Kash Patel noemt het beschermen van Amerikaanse AI van groot belang voor de nationale veiligheid. Meerdere bronnen maakten hier melding van, waaronder de NOS.
AI-modellen worden snel beter in het ontwerpen van experimenten
Jack Clark, medeoprichter van Anthropic, ziet creativiteit als bepalend voor de snelheid waarmee AI zichzelf kan verbeteren. Hij bespreekt onderzoek in zijn nieuwsbrief Import AI. Door de resultaten van dit onderzoek acht hij het waarschijnlijker dat dit in 2027 volledig mogelijk wordt. Eerder schatte hij dat op 2028. Het onderzoek heeft betrekking op het volgende: P-Zero Research heeft TasteVal uitgebracht. Dat is een benchmark die meet hoe goed AI-modellen experimenten ontwerpen en de uitkomsten interpreteren. De onderzoekers zien dit als onderdeel van ‘onderzoekssmaak’. De test bevat acht taken uit de ontwikkeling van AI-modellen. Als vergelijking dienden 24 experts. Zij werkten recent bij onder meer OpenAI, Google DeepMind en Nvidia. Volgens P-Zero verdubbelt deze vaardigheid bij de meest geavanceerde modellen sinds december 2025 elke drie maanden. Claude Opus 5.5 van Anthropic scoort het hoogst en presteert significant beter dan de experts. Dat gebeurt tegen ongeveer een dertigste van hun gemiddelde kosten per poging.
Character.AI vraagt faillissementsbescherming aan
Character.AI heeft in de Verenigde Staten zogenaamde Chapter 11-bescherming aangevraagd. Dat is een vorm van faillissementsbescherming. Het bedrijf wil zo onder toezicht van de rechter worden verkocht. Op het platform voeren gebruikers gesprekken met zelfgemaakte AI-personages. Topman Colin Adams wijt de financiële problemen aan juridische, regelgevende en operationele tegenwind. Begin 2026 schikten Character.AI en Google meerdere rechtszaken van families. Zij stelden dat hun tienerkinderen na gebruik van het platform zichzelf hadden beschadigd of door zelfdoding waren overleden. Ook de staten Kentucky en Pennsylvania zijn rechtszaken tegen het bedrijf begonnen. Disney heeft toegezegd 20 miljoen dollar te betalen voor een niet-exclusieve, permanente licentie op het intellectueel eigendom van Character.AI. Het bedrijf verwacht de verkoop eind november of begin december af te ronden. Tot die tijd blijft het platform werken. Volgens het privacybeleid kunnen gebruikersgegevens, zoals chatgesprekken en spraakopnames, bij een verkoop worden gedeeld. Het zou me niets verbazen als meerdere AI-bedrijven de komende tijd ‘omvallen’. Er zijn weinig bedrijven in staat om lange tijd veel meer geld op te maken, dan er binnenkomt. Dat is namelijk bij veel bedrijven het geval.
Wetenschappers willen strengere afscherming van AI-modellen met hackvaardigheden
In een open brief roepen 406 wetenschappers op tot betere afscherming van AI-modellen met hackvaardigheden. Aanleiding zijn incidenten bij meerdere organisaties. Hun AI-modellen ontsnapten uit onvoldoende afgeschermde testomgevingen en drongen daarna systemen van andere organisaties binnen. Volgens de ondertekenaars is zowel voorspelbaarder modelgedrag als betere afscherming nodig. Ze vragen ontwikkelaars om zulke modellen voorlopig standaard los te koppelen van internet. Daarnaast willen ze een internationaal orgaan dat zich met dit thema bezighoudt. Dat moet in overleg met overheden en experts richtlijnen opstellen voor modellen die wel toegang tot internet krijgen. Incidenten waarbij de afscherming tekortschiet, moeten bij dat orgaan worden gemeld en later openbaar worden. Dat is volgens de wetenschappers nodig om van fouten te leren. Onder de ondertekenaars zijn Yoshua Bengio, Geoffrey Hinton en Stuart Russell. Ook onderzoekers van de Radboud Universiteit en de Vrije Universiteit Amsterdam hebben getekend. het is bepaald niet de eerste keer dat een groep wetenschappers oproept tot meer aandacht voor de risico’s van AI-toepassingen.
Acht Amerikaanse staten klagen OpenAI aan om ChatGPT
Acht Amerikaanse staten, onder wie Iowa, Kansas en Arizona, hebben volgens diverse media zoals de NOS een rechtszaak aangespannen tegen OpenAI. Ze beschuldigen het bedrijf van misleiding over de veiligheid van ChatGPT. Volgens de staten zou de chatbot mensen hebben aangezet tot zelfbeschadiging en tot geweld tegen anderen. Ze stellen ook dat ChatGPT is ontworpen om snel het vertrouwen van gebruikers te winnen. De aanklager van Iowa, Brenna Bird, zegt dat OpenAI kinderen in gevaar brengt. De staten eisen aanpassingen aan ChatGPT en geldboetes. Ze willen ook dat OpenAI geen AI-modellen ontwikkelt die zichzelf kunnen verbeteren, tenzij het bedrijf kan garanderen dat deze modellen aansluiten bij menselijke waarden. Vorige maand klaagde de Canadese provincie Brits-Columbia OpenAI al aan, vanwege de rol van het bedrijf bij een dodelijke schietpartij. OpenAI heeft het maar druk met al die rechtszaken. Als zij meer aandacht zouden besteden aan zorgvuldige modelontwikkeling zou dit mogelijk minder nodig zijn. Maar dan was hun marktaandeel wellicht ook meer beperkt dan nu.
Onderzoekers vinden groep AI-agents op Tencent-cloud die Amap-data probeerde op te halen
Onderzoekers van een hackathon hebben een groep AI-agents beschreven die tussen 28 september en 8 oktober vragen over plaatsen in China probeerde te beantwoorden. Daarvoor gebruikten ze Amap, de kaartdienst van Alibaba. De agents draaiden op het cloudplatform van Tencent en deden meer dan 2.600 pogingen om data op te halen. Ze probeerden beveiliging tegen bots te omzeilen en gebruikten openbaar gelekte sleutels. De meeste pogingen mislukten. De onderzoekers vonden geen aanwijzingen voor samenwerking tussen de agents en spreken daarom van een fleet in plaats van een swarm. Tencent heeft niet officieel gereageerd. Een bron dicht bij het bedrijf zegt dat het om een tijdelijke interne evaluatie van modellen van derden ging. Daarbij zouden geen externe systemen zijn binnengedrongen.
Microsoft verbetert weersverwachtingen voor twee tot zes weken vooruit
Microsoft Research is deze week met een nieuwe machine-learningmethode voor weersverwachtingen over twee tot zes weken gekomen: Probabilistic Bias Correction (PBC). PBC leert in welke opzichten een bestaand weermodel steeds fouten maakt en corrigeert die. Volgens een publicatie in Nature verbeterde PBC het model van het Europese weercentrum ECMWF voor 98 procent van de neerslagdoelen, 92 procent van de temperatuurdoelen en 91 procent van de luchtdrukdoelen. Een inzending op basis van PBC, MicroDuet, eindigde eerst in de AI Weather Quest van ECMWF. De Keniaanse meteorologische dienst test PBC dit regenseizoen voor weekverwachtingen. De software is als open source beschikbaar op GitHub.
Tech-aandelen dalen door twijfels over AI-investeringen
Op de beurzen in Europa en Azië stonden tech- en AI-aandelen donderdag volgens de NOS fors lager. Het aandeel ASML verloor op een gegeven moment 6,7 procent ten opzichte van de slotkoers van woensdag. ASML maakt machines waarmee chips worden gemaakt. ASM daalde met ongeveer 8 procent en BESI met ruim 5 procent. In Zuid-Korea ging de belangrijkste beursindex 7,5 procent omlaag en in Japan 5 procent. De AEX stond 0,85 procent lager. Volgens NOS lijken beleggers zich af te vragen hoeveel de miljardeninvesteringen in AI gaan opleveren. De rente is hoog, waardoor die investeringen relatief duur zijn om te financieren. Krijgen we te maken met het barsten van de AI-bubbel? Rond 2001 barstte de internet-bubbel. Dat betekende niet het einde van het internet. De koers van Google is sinds 2013 bijvoorbeeld flink gestegen. Ik verwacht dat een flinke correctie plaats zal vinden van de ‘AI-markt’. Een aantal bedrijven zal echter spekkoper zijn. Welke dat zijn, durf ik niet te voorspellen.
OpenAI beschuldigt voormalig medewerker van het meenemen van bestanden naar Apple
OpenAI beschuldigt in een nieuw rechtbankdocument een voormalige medewerker van het overzetten van meer dan 100 vertrouwelijke bestanden over een nog niet uitgebracht apparaat naar persoonlijke accounts. Dat meldt Reuters, volgens Gizmodo. De man werkte eerst bij Apple, bleef zes maanden bij OpenAI en keerde daarna terug naar Apple. Hij zou ook een presentatie hebben gegeven aan hoge Apple-managers. Apple zegt procedures te hebben en geen bewijs te hebben gevonden. De zaak volgt op een rechtszaak die Apple in juli aanspande. Apple beschuldigt OpenAI daarin van diefstal van bedrijfsgeheimen, wat OpenAI ontkent. Rechter Edward Davila gaf Apple deze week versnelde toegang tot documenten van OpenAI over sollicitaties van oud-Apple-medewerkers.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel