AI-nytt, 21 september: USA och Kina föreslår AI-säkerhetsvarningssystem

USA och Kina diskuterar AI-incidentvarningar inför toppmöte. USA:s finansminister Scott Bessent och Kinas vice premiärminister He Lifeng höll samtal i New York på söndagen och diskuterade skapandet av en ”USA-Kina AI-dialog” med ett underrättelsesystem för artificiell intelligens-incidenter som når nationell säkerhetsnivå. Enligt Reuters, New York Times och CNN sade Bessent att målet är större transparens mellan världens två ledande AI-makter kring gemensamma mål och hot. Förslaget är avsett att tas upp vid det kommande Trump-Xi-toppmötet senare i veckan. Kinas fulla svar var inte omedelbart klart. Samtalen berörde också handel och andra frågor men inkluderade inte exportkontroller på avancerade chip som del av AI-mekanismen.

SoftBank lanserar över 10 miljarder dollar i obligationer för OpenAI-investering. SoftBank Group har lanserat obligationer på 10 miljarder dollar och 1 miljard euro för att finansiera sin investering i OpenAI, enligt ett term sheet som Reuters rapporterade om på måndagen. Medlen ska stödja SoftBanks betalning på 10 miljarder dollar för den tredje tranchen av uppföljningsinvesteringen, som väntas stänga runt 1 oktober, och ersätta ett tidigare brygglån. Obligationerna ska prissättas senare i veckan. Dragningen understryker det fortsatta stora privata kapitalflödet till ledande AI-utvecklare mitt i tunga infrastrukturbehov.

Konsumenter stämmer stora AI-labb för påstådd nedbromsningspakt. En grupptalan i federal domstol i Kalifornien hävdar att Anthropic, OpenAI, SpaceXAI och Google olagligt kommit överens om att sakta ner takten i AI-utvecklingen, i strid mot antitrustlagar. Kärandena, som prenumererar på bolagens betaltjänster, menar att samordningen – utlöst av offentliga uttalanden kring Anthropic-vd:n Dario Amodeis essä som uppmanade till branschmässig återhållsamhet – skulle minska värdet av deras prenumerationer. Klagomålet pekar på stöd från OpenAI:s Sam Altman, SpaceXAI:s Elon Musk och Google DeepMinds Demis Hassabis. Bolagen hade inte omedelbart kommenterat i detalj; stämningen är en anklagelse, inte ett bevisat faktum.

OpenAI räknar med nästan 280 miljarder dollar i kassaförbränning till 2030. OpenAI väntar sig negativt fritt kassaflöde på omkring 278 miljarder dollar från 2026 till 2030 samtidigt som bolaget pumpar in hundratals miljarder i datorkraft och infrastruktur, rapporterade Financial Times med hänvisning till en bolagspresentation. Intäkterna väntas stiga kraftigt från ungefär 36 miljarder dollar i år mot 350 miljarder dollar 2030, men utgifterna för datorkraft beräknas närma sig 856 miljarder dollar. Siffrorna belyser den enorma kapitalintensiteten i frontier-AI även medan bolaget söker vidare finansiering och har skjutit upp en börsnotering mitt i säkerhetsdiskussioner.

Nollklicks-sårbarhet drabbar stora AI-kodverktyg. Säkerhetsforskare vid AIR avslöjade Plugin4Shell, en nollklicks-sårbarhet för fjärrkörning av kod som påverkar Anthropics Claude Code, OpenAI:s Codex, GitHub Copilot och Googles Gemini CLI. Den kringgår versionslåsning av plugins så att en skadlig uppdatering kan köras utan användaråtgärd. Anthropic och OpenAI har släppt patchar; Microsoft hade inte fullt patchat Copilot vid avslöjandet och Google avvecklade Gemini CLI. Problemet beskrivs som den första stora leveranskedjesårbarheten i AI-agenternas ekosystem och understryker säkerhetsriskerna när kodassistenter får djupare systemaccess.