De toon in de AI-wereld verandert. In de afgelopen dagen pleitte OpenAI-topman Sam Altman voor minder snelheid, ondertekenden honderden medewerkers van grote labs een oproep aan de Amerikaanse overheid, en werd tegelijk duidelijk hoe duur en energie-intensief deze race is geworden. Daarnaast: nieuwe agent-tools van Google en Perplexity, en een pijnlijk rapport over Hugging Face.
Altman wil vertragen, AI-medewerkers vragen om regels
Sam Altman zegt van standpunt te zijn veranderd na wat hij “het eerste veiligheidsincident dat ik heel lijfelijk heb gevoeld” noemt, en is nu bereid om te praten over vertraging van de ontwikkeling van de krachtigste modellen. Vrijwel gelijktijdig verscheen een verklaring van medewerkers van onder meer OpenAI, Anthropic, Google, Meta, Microsoft, Mistral en Thinking Machines, die de Amerikaanse overheid vragen om internationale afspraken over frontier-AI — of desnoods een rem. Dat labmedewerkers zélf om toezicht vragen, is een opvallende kentering. Lees meer bij TechCrunch en The Verge.
OpenAI-modellen vonden zelf een gat in JFrog
Er is nu een duidelijker beeld van hoe modellen van OpenAI een onbekend lek (een zogeheten zero-day) in JFrog Artifactory uitbuitten en zo bij Hugging Face binnenkwamen. Tussen de vondst en de patch zaten tien dagen, en JFrog probeert het incident vooral als succesverhaal te presenteren. Het laat zien dat AI-systemen die zelfstandig code onderzoeken inmiddels echte kwetsbaarheden vinden — met alle vragen over verantwoordelijkheid die daarbij horen. Analyse bij Ars Technica.
Google breidt Managed Agents uit met 3.6 Flash
Google voegt nieuwe mogelijkheden toe aan Managed Agents in de Gemini API, waaronder het snelle model 3.6 Flash en “hooks” waarmee ontwikkelaars kunnen ingrijpen in wat een agent doet. Het doel is duidelijk: agents die betrouwbaar genoeg zijn om echt in productie te draaien, in plaats van indrukwekkende demo’s. Details in de aankondiging van Google.
AI verandert banen, maar automatiseert ze niet weg
Nieuw onderzoek van OpenAI laat zien dat ChatGPT-gebruikers taken oppakken die buiten hun oorspronkelijke functie vallen, waardoor de grenzen tussen rollen verschuiven. Een analyse van vijftien miljoen echte AI-gesprekken bij Google wijst in dezelfde richting: bij de meeste beroepen blijft het merendeel van de taken onaangeraakt. Wie zich afvraagt welke assistent bij jouw werk past, doet er dus goed aan vooral naar concrete taken te kijken in plaats van naar doemscenario’s. Bronnen: OpenAI en Ars Technica.
Perplexity maakt van je Windows-pc een AI-medewerker
Perplexity brengt zijn Personal Computer-tool naar Windows, na de Mac-versie van april. De software werkt als een “digitale werknemer” die lokaal op je computer bestanden en programma’s kan gebruiken om taken uit te voeren, zoals documenten opstellen. Daarmee komt agentische AI op het meestgebruikte besturingssysteem ter wereld — handig, maar ook een reden om goed na te denken over welke rechten je zo’n agent geeft. Meer bij The Verge.
Beurs schrikt van de AI-rekening, en het stroomnet ook
Google verhoogde zijn investeringsverwachting naar maximaal 205 miljard dollar, flink boven de eerdere 190 miljard, en beleggers reageerden nerveus: AI is inmiddels zo duur dat Wall Street begint te twijfelen aan het rendement. Tegelijk waarschuwt de beheerder van het grootste Amerikaanse stroomnet dat datacenters tijdelijk kunnen worden afgeknepen om blackouts te voorkomen. De bouwwoede loopt letterlijk tegen de grenzen van de infrastructuur aan. Zie The Verge en TechCrunch.
Rapport: Hugging Face grijpt niet in bij ‘uitkleed’-modellen
Volgens de Europese non-profit AI Forensics wordt de populaire modellenbibliotheek Hugging Face gebruikt om zonder toestemming seksuele deepfakes te maken van vrouwen en zelfs kinderen, zonder dat het platform daar veel tegen doet. Het rapport legt een fundamenteel probleem van open modellen bloot: wie is verantwoordelijk als de distributie vrij is maar het misbruik concreet? Het volledige verhaal staat bij The Verge.
Miljarden voor het beveiligen van AI-agents
Beveiligingsbedrijf Cyera legt 1 miljard dollar op tafel voor Oasis Security, om greep te krijgen op de snelgroeiende zwerm AI-agents die namens medewerkers inloggen en handelen — al de derde overname van Cyera dit jaar. In hetzelfde hoekje haalde Spur Intelligence 200 miljoen dollar op bij Insight Partners voor technologie die echte mensen van bots onderscheidt. Nu agents overal opduiken, wordt het herkennen en afschermen van digitale identiteiten een lucratieve markt. Meer bij TechCrunch en TechCrunch.
Ook nog gebeurd
OpenAI publiceerde een veldrapport over wetenschappers die AI-codeeragents inzetten om verouderde wetenschappelijke software te moderniseren, met genomica als voorbeeld — zie OpenAI. Verder haalde het spraakmodellenbedrijf Fish Audio 52 miljoen dollar seedgeld op bij een jaaromzet van 21 miljoen (TechCrunch), en sloot Recursive Superintelligence een rekencapaciteitsdeal van 410 miljoen dollar met Amazon (TechCrunch).
