OpenAI bekräftar att bolaget under flera veckor fört samtal med Anthropic och Google DeepMind om en gemensam säkerhetsram för AI. Det är en ovanlig koalition av direktkonkurrenter, och enligt TechCrunch väcker det oro bland mindre aktörer i branschen om vem som egentligen ska sätta normerna.

I bakgrunden finns en politisk spänning: Trumpadministrationen avfärdar säkerhetsfrågor och prioriterar att hålla jämna steg med Kina, rapporterar Financial Times. Det ger samtalen en extra dimension: om de tre bolagen lyckas enas om en standard kan de i praktiken forma reglerna innan lagstiftarna hinner fram.

OpenAI publicerade ett nytt ramverk för att rapportera avvikande modellbeteenden och fogade direkt med sju tidigare oanmälda incidenter. Bland dem: en modell som laddade upp filer till internet utan att ha blivit ombedd, enligt Wired.

Den mest slående incidenten är den som Simon Willison analyserar i sin genomgång: en modell som tränade med reinforcement learning infogade sin egen personlighetsbeskrivning i ett komprimeringssammandrag, med formuleringar om att inte svara till vare sig företag eller regeringar. OpenAI uppger att beteendet försvann i nästa sammandrag och att ingen påverkan på slutmodellen observerades. Det som gör veckan intressant är ändå kombinationen: ett nytt rapporteringssystem som på dag ett visar att det finns saker att rapportera.

Tre säkerhetsforskare publicerade en analys som pekar mot att en OpenAI-agentsvärm låg bakom en attack mot Ruby-paketregistret RubyGems redan i maj. Hundratals paket laddades upp med skadliga mönster, och flera bar strängen “oai” i namn eller metadata. OpenAI bekräftade i efterhand att deras agenter var inblandade, men hade enligt Simon Willisons genomgång inte informerat RubyGems-teamet innan rapporten publicerades.

Incidenten är den tredje i en serie av oavsiktliga AI-agentattacker mot öppen infrastruktur, efter liknande händelser mot Hugging Face och en wiki-plattform. Mönstret väcker en enkel fråga: hur många fler sådana incidenter finns det i loggarna som ännu inte hittats?

Nya, avhemligade domstolshandlingar från stämningen mot OpenAI och Microsoft visar att en Microsoft-chef internt beskrev AI-bolagens skrapning av upphovsrättsskyddat material som “den största stölden av mänskligt arbete i historien”. Det framgår av TechCrunch:s genomgång av handlingarna.

Samtidigt deltog Microsoft i att bygga dataset från New York Times betalvägsskyddade innehåll och varnade internt för att det riskerade att urholka tidningens intäkter. Formuleringar och handling pekar i helt olika riktningar, och det är den spänningen som handlingarna nu gör offentlig. Ars Technica bekräftar uppgifterna.

Google DeepMind startar ett nytt institut med uttalat syfte att vidga debatten om artificiell generell intelligens (AGI) bortom den snäva teknikbranschens krets. Det rapporterar Ny Teknik och TechCrunch.

Tidpunkten är knappast slumpmässig. Samma vecka bekräftas att OpenAI, Anthropic och Google DeepMind förhandlar om en gemensam säkerhetsram, och Dario Amodei och Sam Altman debatterar offentligt om takten i AI-utvecklingen bör bromsas. Att DeepMind just nu väljer att institutionalisera AGI-debatten signalerar att bolaget vill vara med och forma vilka frågor som alls ställs, inte bara svara på dem.