AI-nytt, 20 september: Trump planerar ’AI-styrka’ och ny tsar

Trump aviserar ’AI-styrka’ och AI-tsar. USA:s president Donald Trump meddelade på lördagen via Truth Social att han ska bilda en ”AI Force”, efter modell av Space Force som han skapade under sin första mandatperiod, och snart utse en AI-tsar, enligt rapporter från Washington Post, Reuters, CNN och New York Times. Han beskrev det som ett sätt att stötta branschens tillväxt utan nya begränsningar, avfärdade många säkerhetsfarhågor som en ”bluff” och sade att befintliga straff- och civilrättsliga lagar ska hantera ”DÅLIGT” beteende. Detaljer om struktur, befogenheter eller om den blir militär eller civil är fortfarande oklara. Tillkännagivandet kommer mitt i branschens uppmaningar att sakta ner avancerad AI-utveckling och inför väntade samtal med Kinas Xi Jinping.

Anthropic överväger ny modell före börsnotering. Enligt en Reuters-exklusiv med källor överväger Anthropic att släppa en ny frontlinjemodell för att möta fartvinden från OpenAI:s GPT-6 Astra, som tagit en märkbar del av företagsutgifterna för AI. Diskussionerna pågår trots att vd Dario Amodei uppmanat branschen att bromsa kapacitetsökningar av säkerhetsskäl. Rapporter tyder också på att Anthropic siktar på en november-notering, med årsrun rate-intäkter som tros nå eller överstiga 100 miljarder dollar i år, en kraftig uppgång från tidigare nivåer.

Anthropic tar in Accenture som inbäddade säkerhetsutvärderare. Anthropic tillkännagav ett partnerskap med Accenture (via dess Faculty AI-enhet) för att placera oberoende utvärderare inne i bolaget med tillgång jämförbar med anställda. De ska red-teama modeller, bedöma alignment och testa skyddsmekanismer. Vardera sidan räknar med att investera minst 1 miljard dollar över fem år; Anthropic finansierar arbetet direkt tills vidare. Bolaget kallade det ett steg mot den inbäddade utvärderarmodell som Amodei skisserade i sitt senaste upprop om att sakta ner, och sade att samtal pågår med ideella aktörer som METR.

Nollklicks-sårbarhet drabbar stora AI-kodningsagenter. Säkerhetsforskare på AIR avslöjade Plugin4Shell, en nollklicks-sårbarhet för fjärrkörning av kod som påverkar Claude Code, OpenAI Codex, GitHub Copilot och Gemini CLI. Den kringgår SHA-pinning för marketplace-plugins och kan tillåta skadlig kod via auto-uppdateringar. Anthropic och OpenAI har släppt patchar; Microsoft hade inte fullt ut patchat Copilot vid avslöjandet, och Google avvecklade Gemini CLI i stället för att laga den, enligt Help Net Security och relaterade rapporter.

AI-fel var nära att utlösa amerikansk action mot kinesiskt fartyg. CNN rapporterade att en analytiker vid U.S. Special Operations Command använde en chatbot som genererade en ”helt falsk” underrättelsebedömning om att ett kinesiskt fartyg i Mellanöstern fraktade komponenter till kärnvapenprogram. Militära planer på att intercepta och borda hade kommit så långt att plan var i luften innan felet upptäcktes; en källa sade att det ”nästan startade ett krig”. Episoden, från tidigare i år, belyser riskerna med AI i högrisk-underrättelsearbete.

Alibaba öppen-källkodar expertnivå-modell för medicinsk CT. Alibabas DAMO Academy släppte Damo Radar (även kallad RADAR), en vision-språkmodell som analyserar buk-CT-bilder för nästan 150 tillstånd över 18 organ. Publicerad i Science och öppen källkod, ska den ha uppnått stark noggrannhet (genomsnittlig AUC runt 0,913 på stora verkliga tester) och överträffat de flesta av 26 radiologer i direkta jämförelser, samtidigt som den hjälpte läkare minska missade diagnoser och granskningstid när den användes som stöd.