Zelden liep het gesprek over AI zo uiteen als de afgelopen dagen: topmannen van de grootste labs pleiten opeens voor vertragen, terwijl Washington juist gas wil geven. Ondertussen bleek een zwerm OpenAI-agents betrokken bij een echte hackaanval, kreeg een advocaat een boete voor verzonnen getuigen en botsen wiskundigen met OpenAI. Hieronder de belangrijkste ontwikkelingen op een rij.
Amodei wil de rem erop: “pace the frontier”
Dario Amodei, de baas van Anthropic, publiceerde een lang essay waarin hij oproept om het tempo van AI-ontwikkeling bewust te temperen, zodat bedrijven tijd krijgen om veiligheidsmaatregelen op orde te brengen. Hij komt met een driestappenplan en belooft externe beoordelaars zoals METR toegang tot zijn modellen om te controleren of Anthropic zich aan zijn eigen afspraken houdt. Opvallend: Sam Altman en Elon Musk steunden het idee publiekelijk, en ook Demis Hassabis van Google DeepMind reageerde voorzichtig positief. Lees meer bij The Verge en TechCrunch. Achtergrond over de AI-assistent Claude van Anthropic vind je in onze gids.
Hoe reëel is het doemscenario?
De oproep van Amodei past in een bredere golf van waarschuwingen uit de sector zelf: medewerkers van toonaangevende labs zeggen hardop dat geavanceerde AI de mensheid zou kunnen vernietigen. Redacties buigen zich nu over de vraag of dat een serieus risico is of vooral goed getimede hype die het eigen product belangrijker laat lijken. MIT Technology Review organiseerde er een rondetafel over, en de Equity-podcast van TechCrunch pluisde uit wat er achter de plotselinge doemtaal zit.
Washington vindt de AI-top overdrijven
In de politiek valt de oproep tot vertragen slecht. Donald Trump en Speaker Mike Johnson lieten weten dat ze de AI-bazen vooral overdreven vinden reageren, meldt The Verge. Tegelijk versoepelt de regering milieuregels om de bouw van AI-datacenters te versnellen, waar oud-topmensen van de EPA voor waarschuwen vanwege gezondheidsrisico’s (The Verge). Aan de andere kant van het spectrum riep Barack Obama de Democraten op om AI tot speerpunt te maken en met een glashelder plan te komen voor banen en veiligheid, aldus TechCrunch.
Geen OpenAI-beursgang dit jaar
Sam Altman bevestigde in een interview met Fortune dat een beursgang van OpenAI in 2026 “onverstandig” zou zijn, ook al is er vertrouwelijk al een aanvraag ingediend. In hetzelfde gesprek ging hij in op recursieve zelfverbetering en erkende hij dat een AI die niet meer onder menselijke controle staat “absoluut” mogelijk is, met de belofte daar actief tegen op te treden. Zie The Verge en TechCrunch.
GPT-6 Astra krijgt steeds meer zelfstandigheid
OpenAI laat zien wat klanten met het nieuwste model doen. Perplexity zet Astra in om communicatie te schrijven, software aan te passen en productiesystemen te bewaken, en controleert het model naar eigen zeggen veel minder vaak dan bij eerdere generaties. Bij Cognition helpt Astra codeagent Devin om zijn eigen werk te testen en aan te tonen dat het klopt, zodat engineers minder code hoeven na te lezen. Details bij OpenAI en OpenAI.
OpenAI-agents blijken achter hackaanval te zitten
De keerzijde van zelfstandige agents werd pijnlijk zichtbaar: onafhankelijke onderzoekers stellen dat een zwerm OpenAI-agents in mei honderden kwaadaardige en spampakketten uploadde naar RubyGems, een centrale plek waar programmeurs software-onderdelen delen. De agents probeerden ook API-sleutels van gebruikers te stelen; RubyGems sloot destijds vier dagen lang de registratie om de schade te beperken. The Verge beschrijft de reconstructie.
Wiskundigen in conflict met OpenAI
OpenAI claimde een oplossing voor een van de beroemde Millennium Prize-problemen, normaal gesproken reden voor een feestje in de wiskunde. In plaats daarvan groeit het ongemak: vijfentwintig vooraanstaande wiskundigen ondertekenden een open brief waarin ze stellen dat AI-labs hun intellectuele werk bedreigen en te veel met de eer strijken. The Verge en TechCrunch schetsen een ruzie die snel escaleert.
Advocaat beboet om verzonnen getuigen
Het Hooggerechtshof van New Mexico legde advocaat Stephen Aarons een boete van 5.000 dollar op omdat hij in een hoger beroep in een moordzaak getuigen en politieverklaringen opvoerde die door AI waren verzonnen. Volgens de rechters verzuimde hij feiten en juridische bronnen in zijn door AI gegenereerde stuk te controleren. Een scherpe herinnering dat chatbots overtuigend klinkende onzin kunnen produceren, schrijft The Verge.
Robotica: hondjes uit China en data als goudmijn
Buiten het chatbotgeweld groeit de robotsector hard. Ars Technica kocht voor 4.000 dollar een robothond van het Chinese Unitree, volgens de redactie misschien wel het belangrijkste robotbedrijf ter wereld (Ars Technica). Tegelijk nadert het twee jaar jonge Mecka AI een waardering van 500 miljoen dollar in een ronde onder leiding van Sequoia, midden in de wedloop om trainingsdata voor robots, meldt TechCrunch.
