AI-nytt, 22 september: OpenAI vill se USA-ledda globala AI-standarder

OpenAI uppmanar till USA-ledarskap för globala AI-standarder. OpenAI uppmanade på måndagen USA att leda en internationell satsning på tekniska standarder för avancerade ”frontier”-AI-system, inklusive sådana som kan förbättra sig själva. I ett blogginlägg i samband med FN:s generalförsamling betonade bolaget gemensamma regler för utvärdering av modeller, incidentrapportering och riskhantering för att undvika ett splittrat globalt system. Vd Sam Altman ska på onsdag brifa FN:s säkerhetsråd om AI och internationell säkerhet, enligt Reuters och Financial Times. Utspelet kommer mitt i ökade säkerhetsbekymmer och inför toppmötet mellan Trump och Xi denna vecka.

Gates Foundation lanserar koalition för språktillgång. Gates Foundation tillkännagav en koalition med cirka 60 organisationer – bland andra Anthropic, Google, OpenAI Foundation och flera till – för att öka AI-tillgången för människor vars språk är underrepresenterade i dagens modeller. Målet på fem år är att ungefär 3,4 miljarder människor ska kunna använda AI-verktyg på sina egna språk och med sina egna röster. Partnerna ska arbeta med öppna dataset, riktmärken och tillämpningar, som en förlängning av stiftelsens nyliga miljarddollarssatsning på AI inom hälsa, utbildning och jordbruk, enligt stiftelsen och Associated Press.

Nvidias vd avfärdar AI-”domedagsvarningar”. Nvidias vd Jensen Huang sade till CBS News att det finns ”0 % chans” att AI tar slut på världen till 2030 och kallade senaste utrotningsvarningarna ”oansvariga” och ”inte baserade på vetenskap”. Han menade att befintliga skadestånds- och cybersäkerhetslagar räcker och att ny reglering inte behövs, i linje med en mer hands-off-hållning, samtidigt som han betonade ansvarsfull utrullning. Uttalandena förstärker en offentlig splittring med vissa branschledare som krävt en samordnad inbromsning.

Amazon blockerar Metas Muse-shoppingagent. Amazon har blockerat Metas nya AI-agent Muse från att komma åt och handla på bolagets sajt efter att Meta avböjt en begäran om att ta bort den. Användare såg popuper om att agenten bryter mot Amazons användarvillkor. Amazon hänvisade till bristande tillstånd, att agenten inte identifierar sig och integritetsrisker; Meta har sagt att Muse inte ser lösenord eller betalningsuppgifter. Konflikten belyser växande spänningar kring autonoma AI-agenter som agerar för användares räkning.

FN-experter varnar för apokalyptisk retorik. Medlemmar i en oberoende FN-vetenskaplig panel om AI varnade för överdriven ”apokalyptisk” retorik om risker och betonade behovet av att skilja känd vetenskap från spekulation. Medordförande Yoshua Bengio och andra efterlyste evidensbaserad diskussion. Panelen släppte också en brief som konstaterar att traditionella skyddsåtgärder verkar ”falla sönder” efter incidenter med autonoma agenter och uppmanar till starkare proaktiva åtgärder utan att vänta på full visshet.