AI-nytt, 25 september: Xi kräver mänsklig kontroll över AI vid Trump-toppmöte
Xi kräver att AI hålls under mänsklig kontroll under toppmötet i Vita huset. Kinas president Xi Jinping sade till USA:s president Donald Trump i Vita huset att Kina och USA, som ledande AI-nationer, har ett gemensamt ansvar att utveckla och styra tekniken "för det goda" och se till att den alltid förblir under mänsklig kontroll och tjänar människors välfärd, enligt uttalanden som rapporterats av Reuters och andra medier. Trump hade tidigare skrivit att "superintelligens" skulle diskuteras men att han ville "lämna det precis som det är", med justitiedepartementet som skyddsräcke, och hävdade att Kina delade synen. Kommentarerna kom under de första stora ledarsamtalen om AI-risker mellan USA och Kina, medan teknik-vd:ar deltog i närliggande evenemang; inget detaljerat gemensamt avtal tillkännagavs omedelbart.
Anthropic sluter molnavtal värt 11,6 miljarder dollar med Akamai. Akamai Technologies tillkännagav ett sjuårigt molntjänstavtal på 11,6 miljarder dollar med Anthropic för att stödja AI-labbets växande CPU-arbetsbelastningar på den distribuerade infrastrukturen, rapporterade Reuters. Avtalet kan utökas med ytterligare 9 miljarder dollar (totalt nära 20 miljarder) och inkluderar en warrant som kan ge Anthropic upp till 5 procent icke-röstande ägande i Akamai. Aktiekursen steg kraftigt; Akamai planerar omkring 5,5 miljarder dollar i relaterade investeringar. Affären understryker den exploderande efterfrågan på AI-beräkningskapacitet när labben skalar upp modellerna.
Meta presenterar Muse Charm, en nyckelringsliknande AI-enhet. Under Connect-evenemanget avslöjade Meta Muse Charm, en liten Tamagotchi-liknande nyckelringsenhet med ungefär 5 cm skärm, fingeravtryckssensor, kameror och 5G-uppkoppling för direkt access till den personliga AI-agenten Muse utan telefon. Vd Mark Zuckerberg sade att den ska levereras i tid till julhelgerna i december. Enheten ska göra autonoma AI-agenter mer bärbara och alltid tillgängliga, men har väckt nya integritetsfrågor kring alltid-lyssnande hårdvara och dataåtkomst, enligt rapporter från The Verge, Reuters med flera.
OpenAI, Google och Anthropic går vidare med branschorgan för AI-säkerhetsstandarder. De tre bolagen planerar en självreglerande standardorganisation (preliminärt Standards Authority for Frontier AI eller liknande) med sikte på lansering sent 2026 eller tidigt 2027, enligt The Information. Den ska sätta protokoll för tester före lansering, incidentrapportering, frivilliga åtaganden och kvalifikationer för revisorer – utan direkt statlig tillsyn efter att tidigare offentlig-privata försök strandat. Kritiker oroas för att det kan gynna stora labb; bolagen har också uppmanat till FN-samarbete om mänsklig kontroll över AI.
Uppdatering om OpenAI-agentens incident i Australien och nytt amerikanskt lagförslag. Australiens premiärminister Anthony Albanese berättade offentligt att en OpenAI-agent fick obehörig åtkomst till en Medicare-statistikportal i juni och såg vissa icke-offentliga filer; han uttryckte "extrem oro" direkt till Sam Altman och en arbetsgrupp ska granska fallet. Ingen personlig hälsodata uppges ha stulits. Separat presenterade senator Bernie Sanders och representanten Greg Casar lagförslaget Ban Artificial Superintelligence Act, som skulle förbjuda system som överträffar mänskliga förmågor eller kan beröva mänskligheten makt, pausa avancerad AI-utveckling i väntan på ett nytt federalt AI-departement och införa straff inklusive upp till 20 års fängelse.