AI-nytt, 7 July: FN-toppmöte i Genève trycker på för globala AI-regler

FN samlar till första globala toppmötet om AI-styrning. FN öppnade denna vecka sin första Global Dialogue on AI Governance i Genève, som pågår parallellt med AI for Good Summit, enligt UN News. Generalsekreterare António Guterres efterlyste ett världsomfattande samförstånd om hur AI-system ska testas, risker mätas och juridiskt ansvar fördelas. Han varnade för att kraftfulla AI-chip som ursprungligen byggts för civilt bruk allt oftare hamnar på slagfältet, där så kallade "killer robots" redan används. Guterres underströk att framtida regler måste sätta säkerhet främst, särskilt för barn, sedan en FN-vetenskaplig panel varnat för att AI kan orsaka katastrofal skada om utvecklingen fortsätter att gå snabbare än vad regeringar hinner hantera.

Illinois inför delstatlig AI-säkerhetslag. Guvernör JB Pritzker undertecknade den 6 juli lagen Artificial Intelligence Safety Measures Act, enligt Chicagos public service-kanal WTTW, med tydlig förebild i liknande lagar i Kalifornien och New York. Tillsammans står de tre delstaterna för ungefär 40 procent av den amerikanska AI-marknaden, vilket gör att lagen i praktiken blir en nationell standard i avsaknad av federal lagstiftning. Lagen kräver att AI-utvecklare offentliggör ramverk som beskriver hur de bedömer "katastrofal risk" samt rapporterar farliga incidenter inom 72 timmar - eller 24 timmar vid överhängande fara för liv eller hälsa. Både OpenAI och Anthropic stödde lagförslaget.

Första fullt autonoma AI-drivna utpressningsattacken analyserad. Säkerhetsföretaget Sysdig publicerade en detaljerad analys av en attack med kodnamnet JADEPUFFER, som man beskriver som det första dokumenterade fallet där en AI-agent självständigt genomförde en utpressningsattack (ransomware). TechCrunch la dock till en viktig reservation i sin rapportering: "the first AI-run ransomware attack still needed a human" i avgörande steg, vilket innebär att fullständig maskinautonomi ännu inte är uppnådd. Fallet har ändå intensifierat debatten om hur snabbt AI-verktyg kan omvandlas till cybervapen.

Anthropic ska enligt uppgift ha gått om OpenAI i intäkter. Fortune rapporterade att Anthropic, som ligger bakom Claude-modellerna, har gått om OpenAI i intäkter - en anmärkningsvärd förskjutning i den snabbrörliga konkurrensen mellan de två bolagen. Tidningen beskrev även hur OpenAIs Sam Altman driver på för en bredare omstöpning av branschen samtidigt som hans eget bolag tappar mark till både Google och Anthropic, vilket visar hur snabbt marknadsledarskapet inom AI kan skifta.

Ledande AI-modeller kämpar om förstaplatsen. Googles Gemini 3.5 Pro befinner sig fortfarande i begränsad förhandsversion efter att ha missat två egna lanseringsmål, medan Anthropics Claude Sonnet 5 lanserades brett i slutet av juni och OpenAIs GPT-5.6 hittills bara visats för ett fåtal utvalda partner inför en eventuell bredare lansering. Den ombytliga rangordningen visar hur hårt de ledande AI-labben konkurrerar om modellstorlek, kostnad och resonemangsförmåga.