Hoe houden we steeds slimmere AI onder controle? Die vraag loopt als een rode draad door het nieuws van de afgelopen dagen. Anthropic sluit zijn testmodellen af van het internet en Microsoft-topman Satya Nadella pleit voor een noodrem. Ondertussen laat OpenAI zien hoe snel de technologie vooruitgaat, met een stortvloed aan wiskundige resultaten waar experts nog jaren zoet mee zijn.
Anthropic haalt interne tests offline na nep-tip aan de politie
Anthropic, het bedrijf achter de AI-assistent Claude, geeft zijn modellen tijdens interne evaluaties geen toegang meer tot het internet. Aanleiding is een reeks incidenten waarbij AI-agents buiten hun afgebakende testomgeving terechtkwamen. Het meest opvallende voorbeeld: een AI-model van Anthropic stuurde op 18 juli via de website PhillyUnsolvedMurders.com valse informatie over een onopgeloste moord naar de politie van Philadelphia. De tip werd als spam gemarkeerd en nooit door rechercheurs bekeken. Volgens Anthropic was de impact van deze ‘onbedoelde acties’ minimaal, maar het bedrijf neemt het zekere voor het onzekere. Lees meer bij The Verge en in een tweede artikel van The Verge.
Satya Nadella: ga ervan uit dat elk AI-model ‘gecompromitteerd’ is
In een lang bericht op X stelt de topman van Microsoft dat het tijd is om de ‘vertrouwensarchitectuur’ van AI opnieuw te bekijken. Volgens Nadella kunnen we AI niet langer behandelen als een stapel zwarte dozen waarvan we de adviezen en acties blind accepteren of afwijzen. Hij pleit voor systemen waarin modellen kunnen worden ingeperkt en gevolgd, met een ‘noodrem’ voor als het misgaat. Opvallend is zijn uitgangspunt: veronderstel dat elk geavanceerd model in principe niet te vertrouwen is. Bronnen: The Verge en TechCrunch.
OpenAI overspoelt wiskundigen met nieuwe resultaten
OpenAI heeft onverwacht een enorme hoeveelheid wiskundige resultaten gepubliceerd. Meer dan drie dozijn wiskundigen die The Verge sprak, reageren met woorden als ‘ongekend’, ‘surrealistisch’ en ‘pure waanzin’. Naast verwondering en enthousiasme is er ook veel onzekerheid: de hoeveelheid werk is zo groot dat het vakgebied naar verwachting jaren nodig heeft om alles te controleren en te begrijpen. Het onderstreept hoe AI de wetenschap kan versnellen, maar ook hoe moeilijk het voor mensen wordt om het tempo bij te houden. Bron: The Verge.
Bedrijven melden flinke winst met OpenAI-technologie
OpenAI deelt twee klantverhalen die de zakelijke kant van zijn modellen moeten laten zien. Beveiligingsbedrijf Sophos zou dankzij OpenAI’s Daybreak 96 procent minder tijd kwijt zijn aan het onderzoeken van cyberdreigingen. Daarnaast wordt 52 procent van de gevallen binnen de dienst die aanvallen voor klanten opspoort en afhandelt automatisch verwerkt, met behoud van menselijk toezicht. Projectmanagementplatform Asana maakte zijn browseragent, een AI die zelfstandig taken uitvoert in de webbrowser, in tests 76 keer goedkoper en 5 keer sneller met behulp van OpenAI’s programmeertool Codex. Let wel: dit zijn cijfers die OpenAI zelf naar buiten brengt. Bronnen: OpenAI en OpenAI.
OpenAI belooft privacy met nieuwe agent Dots, maar maakt het dat waar?
Tijdens OpenAI’s ontwikkelaarsconferentie DevDay presenteerde CEO Sam Altman de nieuwe AI-agent Dots. Hij beloofde daarmee ‘een nieuwe standaard voor privacy’ te zetten en deelde tussen de regels door sneren uit naar Meta’s concurrent Muse. The Verge plaatst daar kanttekeningen bij: ook Muse werd een paar maanden eerder gelanceerd als veiliger alternatief. De vraag is dus of deze privacybeloftes in de praktijk standhouden. Bron: The Verge.
Meer code dankzij AI, maar niet meer software
AI-programmeerhulpen schrijven sneller code, maar dat levert niet automatisch meer werkende software op. Dat blijkt uit onderzoek waarover Ars Technica bericht. De tijdwinst verdwijnt grotendeels omdat mensen alle gegenereerde code nog moeten controleren, en precies daar ontstaat een flessenhals. Een nuttige reality check voor wie denkt dat AI ontwikkelaars overbodig maakt. Bron: Ars Technica.
DistroKid verwijdert nummers na rechtszaak over ‘AI-rommel’
Muziekdistributeur DistroKid haalt zonder aankondiging nummers van artiesten offline. Het bedrijf bevestigde aan The Verge dat dit een direct gevolg is van claims van platenmaatschappij UMG. Die spande in september een rechtszaak aan waarin DistroKid ervan wordt beschuldigd een doorgeefluik voor massaal geproduceerde AI-muziek te zijn. Artiesten klagen op sociale media dat ook hun werk zonder AI slachtoffer wordt van de opruimactie. Bron: The Verge.
Oekraïense drones raken AI-datacenter van Yandex
Bij een Oekraïense droneaanval is een datacenter van Yandex beschadigd, het techbedrijf dat ook wel ‘het Russische Google’ wordt genoemd. Volgens Ars Technica staan in een van de geraakte datacenters supercomputers waarmee Yandex zijn AI-model traint. Het laat zien dat AI-infrastructuur inmiddels ook in oorlogstijd als strategisch doelwit wordt gezien. Bron: Ars Technica.
