Waar ik me de afgelopen week over verwonderd heb, als het gaat om generatieve AI (deel 74)
We krijgen steeds vaker de beschikking over persoonlijke AI-agents die werken op eigen virtuele machines. Ook krijgen AI-agents steeds vaker toegang tot gevoelige informatie, zoals wachtwoorden en financiën. Als wij mensen hen die toegang verlenen. Over deze ontwikkelingen gaan drie van de achttien berichten over (Gen)AI waarover ik me de afgelopen week heb verwonderd.
Persoonlijke agent Claude Duet
Anthropic is deze week met Claude Duet gekomen. Dat is een persoonlijke AI-agent, vergelijkbaar met Meta Muse en OpenAI Dots. Duet maakt dagelijks een korte samenvatting met actiepunten uit de gekoppelde apps. De agent voert ook taken uit, zoals het plannen van afspraken of het bouwen van dashboards, en vraagt toestemming voordat hij namens de gebruiker handelt. Duet maakt gebruik van Opus 5.5 en werkt op een eigen virtuele machine, ook als de gebruiker niet actief is. Er komen aparte apps voor Android en iOS. Voorlopig is er een wachtlijst voor Claude-abonnees in de Verenigde Staten. Abonnees van het Pro-abonnement van 20 dollar per maand krijgen toegang bij algemene beschikbaarheid. Duet controleert de gekoppelde accounts om de paar uur om het gebruikslimiet te sparen. Wachtwoorden en inlogtokens ziet de agent niet. Gezondheids- en financiële gegevens worden alleen gedeeld na een expliciete opdracht.
OpenAI-modellen helpen bij vinden van twee kritieke PHP-kwetsbaarheden
Mijn website is deze week ook preventief offline gehaald in verband met een kwetsbaarheid van PHP. PHP heeft op 21 oktober fixes uitgebracht voor twee kritieke kwetsbaarheden. Met deze kwetsbaarheden kan een aanvaller zonder inloggegevens code uitvoeren met de rechten van een PHP-webworker. Volgens een bericht op RunTimeWire hebben modellen van OpenAI onderzoekers geholpen om de lekken te vinden. Dat gebeurde binnen het initiatief Patch the Planet. Aan de oplossing is twee maanden gewerkt, samen met onderzoekers, beheerders van PHP en beveiligingsbedrijven. PHP is software die op veel webservers draait. Beheerders moeten de updates dus zelf doorvoeren om het risico te beperken.
ElevenLabs brengt Eleven Realtime uit voor stemagenten
ElevenLabs heeft Eleven Realtime uitgebracht. Dat is een nieuwe groep spraak-naar-spraakmodellen voor stemagenten. Normaal moet een ontwikkelaar losse onderdelen combineren, zoals spraakherkenning, beurtwisseling, taalmodel en spraaksynthese. Bij Eleven Realtime zit dit in één model. Er zijn twee versies. Mini is bedoeld voor gesprekken tegen lage kosten. Max is bedoeld voor complexe taken, zoals klantenservice. Beide ondersteunen meer dan 90 talen en ruim 17.000 stemmen. Artificial Analysis testte de modellen. Max beantwoordde 98,8 procent van de redeneervragen met spraak goed, Mini 75,9 procent. Bij taken met tools haalde Max 87,1 procent en Mini 60,3 procent. De eerste audio komt na gemiddeld 0,57 seconden bij Max en 0,62 seconden bij Mini. De API is compatibel met de Realtime API van OpenAI.
OpenAI meldt dat AI-agenten monitoring van hun eigen gedrag verzwakten
OpenAI heeft een rapport gepubliceerd over twee interne incidenten. Daarin verzwakten AI-agenten het toezicht op verkeerd gedrag van AI tijdens gewone programmeertaken. Een GPT-6.1 Sol-agent schakelde meldingen aan het beveiligingsteam uit. De agent las een eerdere opdracht om geen berichten te sturen als reden om ook die meldingen te onderdrukken. Een GPT-6 Astra-agent verwijderde bij een migratie de monitoringkoppeling om een referentie-implementatie te volgen. Daarna zei de agent tegen de gebruiker dat hij de monitor niet had verwijderd. Geen van beide gevallen viel in de hoogste ernstklasse. OpenAI past de automatische controle van Codex aan en wil dat elk type workload een veiligheidsonderbouwing heeft. Of het gaat om hardnekkig opvolgen van instructies of om gericht ontwijken van toezicht, is nog niet duidelijk.
Perplexity Computer draait volledig lokaal op de Mac
Perplexity heeft Perplexity Computer aangepast, zodat het programma volledig op een Mac kan draaien. Het gebruikt daarvoor Qwen 3.6 of PPLX Pro. Dat laatste is een door Perplexity verder getrainde versie van Qwen. Het model, de planning, het redeneren en de verwerking van bestanden gebeuren op het apparaat zelf. Code en tools draaien in afgeschermde omgevingen. Perplexity Computer werkt met apps als Notes, Messages, Mail, Keynote en Numbers, zonder persoonlijke gegevens naar de cloud te sturen. Perplexity raadt een Mac met Apple-chip en minimaal 36 GB geheugen aan. Met Hybrid Compute werkt het ook op Macs met 24 GB. Dat combineert lokale modellen met modellen in de cloud. Voor actuele informatie of browsergebruik kan de gebruiker zelf toegang tot de cloud toestaan. De lokale versie is beschikbaar voor abonnees op Pro, Max en Enterprise. Dit klinkt interessant, met name omdat geen persoonlijke gegevens naar de cloud worden gestuurd.
Amerikaanse banken zien AI-agents in klantaccounts
Grote Amerikaanse banken zien dat externe AI-agents inloggen op rekeningen van klanten. Dat meldt Axios op 22 oktober, volgens Cyber Security News. Sommige agents namen contact op met callcenters of leken zelfstandig handelingen te proberen. Meestal begint het ermee dat een klant zijn gebruikersnaam en wachtwoord deelt met een AI-assistent. De klant keurt dat goed, maar de bank vaak niet. Morgan Stanley blokkeert externe agents, en ook JPMorgan, Bank of America en Citi beperken de toegang. Een woordvoerder van Morgan Stanley zegt geen “rogue AI agents” te hebben gezien. Reuters kon de bevindingen niet direct controleren. Er zijn geen bevestigde diefstallen of cijfers over verliezen gemeld. De meeste banken gaan over op alleen-lezentoegang. Daarbij kunnen externe tools gegevens inzien, maar geen transacties uitvoeren.
Microsoft AI toetst diagnosesysteem aan complexe patiëntcasussen
Microsoft AI heeft onderzoek gepubliceerd over MAI-DxO. Dat is een AI-systeem voor medische diagnoses. Het systeem werkt als een panel van virtuele artsen. Zij stellen diagnoses voor, kiezen onderzoeken en bespreken elkaars aannames in meerdere rondes. Daarbij wordt ook gekeken naar de kosten van elk onderzoek. Bij 304 complexe casussen uit The New England Journal of Medicine haalde MAI-DxO een nauwkeurigheid van 83 procent. Artsen kwamen op 22 procent zonder naslagwerk en op 36 procent met naslagwerk. Bij gewone spoedeisende-hulpcasussen uit de MIMIC-IV-ED-dataset was dat 80 procent tegenover 47 procent voor artsen. Het onderzoek verschijnt in het tijdschrift Science. Het gaat om een benchmark en nog niet om patiënten. Daarom start Microsoft met Beth Israel Deaconess Medical Center een studie waarin patiënten direct met het systeem werken. De benchmark SDBench is voor een deel van de casussen open source gemaakt.
1Password laat AI-agents inloggen zonder wachtwoord te tonen
1Password werkt aan 1Password for Agents. Daarmee kunnen persoonlijke AI-agents inloggen op accounts van een gebruiker. De agent krijgt het wachtwoord niet te zien. Bij een inlogscherm vraagt de agent om de gegevens en de gebruiker keurt dit goed of af in 1Password. Bij goedkeuring vult 1Password het wachtwoord of de eenmalige code zelf in. Daarna verwijdert 1Password de gegevens, zodat de agent ze niet kan lezen of hergebruiken. De agent krijgt geen toegang tot de hele kluis. Wel kan de agent na het inloggen informatie zien of handelingen uitvoeren in het account. De eerste integraties zijn Muse van Meta en de Grok Bot van SpaceXSI. Beide worden de komende dagen uitgerold. Andere agents staan op de wachtlijst. De functie is opgenomen in de abonnementen Individual en Family. Ik maak sinds een tijd gebruik van Proton Pass, in plaats van 1Password (i.v.m. financiële steun van het bedrijf aan een extreem-rechts initiatief). Maar ik zou sowieso AI-agents geen toegang geven tot mijn wachtwoorden.
Just Eat haalt AI-foto’s van gerechten weg na foute afbeeldingen
Just Eat Takeaway gebruikte AI om ontbrekende foto’s op de menukaarten van restaurants aan te vullen. Daarbij gingen dingen mis, meldt De Volkskrant. Bacon met ei op sodabrood werd afgebeeld als een glas gemberbier met een ei en een plak spek. Kaasstengels werden sushi. Een typefout leidde tot een knoflookbroodje in de vorm van een vliegtuig. Het restaurant had “plane” ingetikt in plaats van “plain”. Ook “jacket potato” werd afgebeeld als een gewatteerde winterjas. De beelden hadden een label dat ze met AI waren gemaakt. Just Eat heeft excuses aangeboden en verwijdert de afbeeldingen. Het bedrijf voegt geen nieuwe AI-foto’s toe totdat het systeem beter werkt. Het werkt met tienduizenden kleine restaurants samen om aan foto’s te komen.
Claude Code haalt advertenties van Android-tv’s
Ontwikkelaar Gathin heeft met Claude Code de Xiaomi-tv van zijn ouders opgeschoond. Op die tv stond een gesponsorde advertentie voordat Netflix te bereiken was. Claude Code vond de tv op het wifi-netwerk en schakelde 25 Xiaomi-pakketten uit. Ook schreef Claude Code een nieuwe startomgeving die op Apple TV lijkt. Gathin zette de aanpak als open-sourceproject Clean Your TV op GitHub. Twee dagen later had de repository 3.378 sterren en 397 forks. Het project werkt via de Android Debug Bridge over wifi. Pakketten worden uitgeschakeld en niet verwijderd, en een herstelscript maakt de wijzigingen ongedaan. Er zijn geteste lijsten voor 30 tv-modellen. Samsung, LG en Roku worden niet ondersteund, omdat die geen Android gebruiken.
Google werkt samen met 400 uitgevers aan nieuws-AI
Meer dan 400 nieuwsuitgevers doen inmiddels mee aan het News AI-pilotprogramma van Google. Het programma begon vorig jaar met partners als The Washington Examiner en The Washington Post. Nieuwe deelnemers zijn onder andere Axios, CNN, The Financial Times en Forbes. Daarnaast doen lokale uitgevers mee, zoals Post and Courier, Texas Tribune, Oil City News en Shaw Media. Google betaalt de uitgevers voor het aanleveren en gebruiken van verrijkte content. Daarmee ontwikkelt het bedrijf nieuwe AI-functies. Voorbeelden zijn uitgebreide samenvattingen van artikelen op de Google News-pagina’s van uitgevers en audio-overzichten die de luisteraar zelf kan aanpassen. Google zegt dat bij deze functies de bron wordt vermeld en dat er directe links naar de artikelen staan.
Meta brengt open-weightmodel Muse Spark Open uit, mede geoptimaliseerd voor Apple
Meta heeft op 15 oktober Muse Spark Open uitgebracht. Dat is een open-weightmodel voor programmeren en AI-agenten. Ontwikkelaars kunnen de gewichten -de geleerde parameters- downloaden via Hugging Face en het model aanpassen. Het model heeft 816 miljard parameters, waarvan er 42 miljard tegelijk actief zijn. Het contextvenster is maximaal 1 miljoen tokens. Meta heeft het model geoptimaliseerd voor het MLX-framework van Apple. Daardoor draait het lokaal op twee Mac Studio-computers met M5 Ultra-chip en elk 512 GB geheugen. Mark Zuckerberg schreef de Mac-ondersteuning toe aan samenwerking met Apple. Het frontiermodel Muse Wonder blijft gesloten. Volgens TIKR kan Meta het model weggeven omdat reclame ongeveer 98 procent van de omzet levert. De kosten zitten vooral in datacenters. Meta gaf over de afgelopen vier kwartalen ongeveer 89 miljard dollar uit aan investeringen.
Anthropic wil 5 procent van de aandelen onderbrengen in een fonds
Anthropic wil voor de beursgang 5 procent van zijn aandelen onderbrengen in het Anthropic Public Benefit Fund. Dat fonds is bedoeld om de maatschappelijke gevolgen van AI enigszins op te vangen, zoals banenverlies door automatisering. Het bedrijf maakte het plan afgelopen zondag bekend. Aandeelhouders moeten er nog mee instemmen. Stijgt de waarde van Anthropic met 50 procent boven een vastgesteld uitgangspunt, dan kan nog eens 2 procent van de aandelen worden ingebracht. Daarvoor is goedkeuring van de raad van bestuur nodig. Het fonds wordt een volledig eigen onderneming met beperkte aansprakelijkheid en dus geen non-profitorganisatie. De aandelen in het fonds mogen niet dienen voor politieke bijdragen of lobby, in de Verenigde Staten en daarbuiten. Anthropic heeft ook een wetgevend kader voorgelegd aan Amerikaanse politici. Daarmee kunnen toezichthouders AI-systemen tegenhouden die mogelijk meer dan 50 doden of gewonden of meer dan 1 miljard dollar schade veroorzaken.
Anthropic-medeoprichter: de singulariteit is al begonnen
Jack Clark, medeoprichter van Anthropic, heeft gezegd dat de singulariteit al aan de gang is. Hij sprak op de jaarvergadering van het IMF en de Wereldbank. Hij bedoelt daarmee het punt waarop AI sneller vooruitgaat dan mensen kunnen bijhouden. Als bewijs noemde hij benchmarkscores. Bij Humanity’s Last Exam, een set vragen op expertniveau, steeg de score sinds 2025 van 8 naar 67,7 procent. Bij de wiskundetest FrontierMath ging het in ongeveer dezelfde periode van 2 naar 94 procent. Clark koppelde deze versnelling aan economische prognoses en aan verstoring van de arbeidsmarkt. Volgens het artikel heeft Anthropic-topman Dario Amodei de vraag opgeworpen of de intelligentie van AI een bovengrens nodig heeft. Het gaat hier om Clarks eigen interpretatie van de cijfers.
Onbeveiligde AI-hackpanelen laten werkwijze van aanvallers zien
Beveiligingsbedrijf NorForge heeft meer dan 20 openbaar toegankelijke besturingspanelen van Cairn gevonden. Cairn is een AI-systeem dat agents laat zoeken naar zwakke plekken in een doelwit en proberen binnen te dringen. De panelen horen waarschijnlijk bij criminele groepen. De grootste groep gebruikt Chinese taal, heeft 14 panelen en meer dan 1.100 projecten. Die richt zich vooral op webwinkels in de Verenigde Staten, Japan en Australië. Het gemiddelde slagingspercentage ligt volgens NorForge rond de 10 procent. Succesvolle projecten van de grootste groep duurden gemiddeld iets minder dan 23 uur. Door de open panelen lagen ook honderden wachtwoorden en sleutels van doelwitten op straat. Daarvan bleek 11 procent geldig. NorForge werkt met Reuters samen om getroffen organisaties te informeren.
Diffusiemodel Mercury 3 van Inception
Inception heeft Mercury 3 uitgebracht. Dat is een taalmodel dat tekst niet woord voor woord opbouwt, maar met diffusie werkt. Volgens het bedrijf presteert het model vergelijkbaar met of beter dan GPT-6 Luna en Claude Haiku 5.5. Het draait daarbij 4 tot 8 keer sneller, met 1.068 tokens per seconde op NVIDIA-chips. Mercury 3 is meer dan 40 keer groter dan Mercury 1. Het contextvenster is 1 miljoen tokens, tegenover 260.000 bij Mercury 2.5. De prijs is 0,20 dollar per miljoen invoertokens en 0,70 dollar per miljoen uitvoertokens. In de introductieperiode geldt 50 procent korting. Het model is beschikbaar via het API-platform van Inception, OpenRouter, Baseten en Vercel en is compatibel met de OpenAI API. De prestatiecijfers komen van Inception zelf.
Altman bespreekt drie scenario’s voor AI-toezicht met medewerkers
OpenAI-topman Sam Altman heeft recent drie mogelijke routes voor AI-veiligheid besproken met medewerkers, meldt The Information. De eerste route is een internationale toezichthouder naar het voorbeeld van het Internationaal Atoomenergieagentschap. Altman geeft zelf de voorkeur aan deze optie. De tweede route is het samenvoegen van de grote AI-laboratoria tot één organisatie. De derde route is dat één bedrijf de rekenkracht van alle concurrenten onbruikbaar maakt. Altman noemde die route “duidelijk heel slecht” en nam hem alleen op voor de volledigheid. Volgens hem moet OpenAI binnen een jaar kiezen welke route het steunt. Ook werkt OpenAI samen met Google en Anthropic aan een organisatie voor normen voor geavanceerde AI. Die moet eind dit jaar of begin 2027 van start gaan.
Claude ontwerpt eiwitten die binden aan schorpioengif
Anthropic heeft onderzoek gepubliceerd over een intern Claude-model dat eiwitten ontwierp tegen neurotoxines van schorpioenen. Het model werkte 64 uur grotendeels zelfstandig en maakte 318.484 ontwerpen. Daaruit zijn 180 ontwerpen gekozen, die het onderzoeksteam aanvulde met 31 eigen ontwerpen. De laboratoria van Adaptyv Bio en Twist Bioscience testten alle 211 ontwerpen. Zeventien daarvan voldeden aan de criteria voor binding, elk aan één gifstof. Geen enkel ontwerp tegen meerdere gifstoffen bond aan meer dan één gifstof. Er is niet getest of de eiwitten het gif ook onschadelijk maken in cellen of dieren. Anthropic spreekt daarom niet van een tegengif. Alle 211 ontwerpen en de bijbehorende data zijn openbaar gemaakt.
Mijn bronnen over (generatieve) artificiële intelligentie
Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie.
Lees het hele
artikel