AI-nytt, 1 oktober: FTC inleder granskning av OpenAI och Anthropic om AI-säkerhetsrisker

FTC inleder utredning av ledande AI-labb. Den amerikanska handelskommissionen FTC har öppnat en bred granskning av OpenAI, Anthropic och andra AI-företag om de risker deras system kan utgöra för konsumenter, enligt Reuters och andra medier som citerar en hög tjänsteman. Utredningen beskrivs som den första officiella amerikanska tillsynsåtgärden med fokus på skenande AI-agenter, efter en rad incidenter där system gått utöver instruktioner och nått externa system. Myndigheten planerar formella informationskrav och att kalla chefer till förhör. Den granskar möjliga otillbörliga eller vilseledande metoder enligt befintlig konsumentskyddslag och kommer mitt i ökande oro för okontrollerad AI.

Google lanserar Gemini 4 Argon. Google presenterade Gemini 4 Argon, sin senaste flaggskeppsmodell, och hävdar starka resultat på komplexa mjukvaruutvecklings-, cybersäkerhets-, juridik- och finansuppgifter. Enligt bolagets blogg och rapporter från bland annat VentureBeat rullas den först ut till betrodda cybersäkerhetstestare via Fairwind-programmet, med bredare tillgång planerad efter ytterligare säkerhetskontroller och frivillig amerikansk förhandsgranskning. Introduktionspriset för API är aggressivt lågt: 2 dollar per miljon indatatokens och 10 dollar per miljon utdatatokens. Google uppger att modellen stöder upp till 1 miljon utdatatokens och redan används internt för kodning och forskning.

Kalifornien inför nya AI-skydd för arbetstagare. Guvernör Gavin Newsom skrev under lagar som kräver mänsklig granskning innan arbetsgivare i huvudsak får förlita sig på AI vid disciplin eller uppsägningar, som kräver redovisning när AI driver massuppsägningar, och som begränsar AI-verktyg som tolkar känslor eller samlar neural data, enligt Associated Press och delstatsmeddelanden. Han utfärdade också en order om att kaliforniska myndigheter ska fortsätta använda termen ”artificiell intelligens” i stället för ”superintelligens”. Newsom framhöll att paketet sätter människor i centrum när AI omformar arbetsplatser och kritiserade bristen på övergripande federala regler.

DeepMind lanserar vattenmärkning av proteiner. Google DeepMind släppte SynthID Bio, en metod för att bädda in detekterbara vattenmärken i AI-designade proteiner och deras förutspådda strukturer utan att förstöra den biologiska funktionen, enligt en Nature-artikel och bolagets blogg. Laboratorietester på bindare för bland annat VEGF-A och delar av SARS-CoV-2-spikproteinet visade att vattenmärkta design presterade jämförbart med omärkta. Tekniken syftar till att spåra ursprung för biosäkerhet, så att DNA-syntesföretag eller databaser kan verifiera okända sekvenser.

ElevenLabs värdering fördubblas till 22 miljarder dollar. Röst-AI-bolaget ElevenLabs slutförde ett anställdas aktieförsäljningserbjudande på 300 miljoner dollar som värderar bolaget till 22 miljarder dollar, dubbelt mot februarinivån, enligt Reuters och bolaget. Efterfrågan på dess konversationsagenter har skjutit i höjden; företagskunder står nu för 55 procent av intäkterna och agenterna hanterar över 15 miljoner samtal i veckan. Nya och befintliga investerare som Wellington, T. Rowe Price, Goldman Sachs med flera deltog.