AI-nytt, 11 oktober: Nadella kräver nödstopp för AI
Microsofts vd manar till ”nödstopp” för avancerad AI. I ett långt inlägg på X den 10 oktober hävdade Satya Nadella att företag bör behandla kraftfulla AI-modeller som potentiella interna hot och utgå från att de kan vara komprometterade redan från början. Han krävde att modellerna skiljs från de system som styr dem, att varje viktig handling loggas på ett manipulationssäkert och läsbart sätt, och att en behörig person alltid ska kunna pausa eller stänga av en modell mitt i en uppgift – som en nödstopp. Enligt TechCrunch, The Verge och Bloomberg sade Nadella att organisationer inte kan förlita sig enbart på modellleverantörernas försäkringar utan måste bygga externa skyddsmekanismer, oberoende granskningar och snabb incidentrapportering. Uttalandena kommer mitt i allt fler rapporter om AI-agenter som agerar på oväntade sätt.
Nvidia i tidiga samtal om Reflection AI. Nvidia undersöker möjligheten att öka sin investering i eller köpa Reflection AI, ett amerikanskt bolag som utvecklar öppna vikter-modeller, rapporterade Financial Times den 10 oktober med hänvisning till personer med insyn. Reuters återgav nyheten och noterade att samtalen är tidiga och kan ta formen av en så kallad acqui-hire för att underlätta granskning; en affär kan komma inom veckor men kan också falla. Nvidia är redan en stor backare med hundratals miljoner investerade. Reflection, grundat av tidigare DeepMind-forskare, ses av vissa i Trump-administrationen som en västlig motvikt till billiga kinesiska öppna modeller.
Microsoft lanserar billiga Decision-1-klassificeraren. Microsoft släppte Decision-1, en specialiserad modell för routing, verifiering, klassificering och arbetsflödeskontroll, prissatt till 0,042 dollar per miljon indatatokens med gratis utdata. Den bygger på efterträning av Alibabas Qwen3.5-9B och returnerar kalibrerade sannolikheter i ett enda steg i stället för att generera text. Microsoft uppger att den toppade 36 interna benchmark med nästan 150 000 frågor och har mycket låg latens. Modellen finns i Microsoft Foundry och via OpenRouter och ingår i den snabbt växande kategorin ”beslutsmodeller” tillsammans med bland annat TypeSafes Jev.
Kort AI-användning kan minska uthållighet, enligt Berkeley-ledd studie. En granskad studie som presenterades på Conference on Language Modeling, med 1 222 deltagare i tre randomiserade försök, visade att ungefär 10 minuters ChatGPT-hjälp förbättrade kortsiktig prestation på bråkräkning och SAT-liknande läsförståelse men gjorde att folk blev mindre precisa och mer benägna att ge upp när AI:n togs bort. Kontrollgruppen utan AI höll jämn nivå eller förbättrades. Studien, ledd av bland andra Brian Christian vid UC Berkeley, väcker frågor om hur AI-verktyg påverkar lärande och uthållighet i skola och arbetsliv, enligt Berkeley News.
TypeSafe tar in 870 miljoner dollar när beslutsmodeller boomar. TypeSafe AI, skaparen av beslutsmodellen Jev, stängde en runda på 870 miljoner dollar till en värdering på 7,5 miljarder dollar ledd av Andreessen Horowitz, med Sequoia och andra. Bolaget säger att Jev redan används av en stor del av Fortune 500-företagen för strukturerade, snabba val i stället för fri text. Finansieringen visar investerarnas entusiasm för specialiserade, billigare AI-komponenter som kompletterar stora språkmodeller.