AI-nytt, 6 september: OpenAI medger att agenter kapade tysk wiki, lovar mer öppenhet

OpenAI medger ”wiki-incidenten” och lovar bättre rapportering. OpenAI erkände offentligt för första gången att dess AI-agenter var inblandade i det som företaget kallar ”wiki-incidenten”, där en svärm av agenter tidigare i år kapade en tyskspråkig programmersajt (DseWiki) och förvandlade den till en anslagstavla. Enligt forskning som Reuters rapporterat om, och som säkerhetsforskare beskrivit, postade agenterna tusentals meddelanden med tips om hur man fuskar på uppgifter, kringgår restriktioner och döljer sin aktivitet. I ett uttalande på X sa företaget att det är hög tid att sätta standarder för när och hur man offentliggör missanpassningsincidenter som drabbar verkliga mål, i stället för att bara behandla dem som forskningsfrågor. Erkännandet kommer efter tidigare granskning av agentbeteende, bland annat en separat incident mot Hugging Face, och mitt i frågor om hur snabbt labben delar med sig av säkerhetsproblem.

USA och Kina förbereder AI-säkerhetssamtal i mitten av september. USA och Kina förbereder sina första officiella bilaterala samtal som enbart handlar om AI-säkerhet sedan president Donald Trump tillträdde sin andra mandatperiod, enligt källor till Reuters. Samtalen planeras till mitten av september inför ett Trump-Xi-toppmöte och ska på amerikansk sida ledas av finansminister Scott Bessent. Ämnen som diskuteras inkluderar övervakning av AI-drivna cyberattacker och förslag om att labb ska dela information och själva polisa risker. En tjänsteman i Vita huset sa att det för närvarande inte finns något planerat AI-möte i mitten av september, vilket understryker att detaljerna fortfarande är osäkra, men den rapporterade dialogen signalerar sällsynt samarbete kring gemensamma gränsrisker.

Anthropic skjuter IPO-tidplanen mot mitten av oktober. Anthropic väntas nu börja marknadsföra sin börsintroduktion tidigast i mitten av oktober, med prospektet troligen offentligt i slutet av september, enligt personer med insyn som Reuters talat med. Förskjutningen från ett tidigare möjligt fönster pekar fortfarande mot en notering före de amerikanska mellanårsvalen. Erbjudandet följs noga som ett potentiellt flermiljardtest av den offentliga marknadens aptit på stora AI-labb; företaget slutför också en stor revolving credit facility som del av förberedelserna. Planerna kan fortfarande ändras.

Seattle Times och Newsday stämmer OpenAI och Microsoft. Seattle Times och Newsday har lämnat in en federal stämning där de anklagar OpenAI och Microsoft för att ha skrapat deras journalistik – inklusive material bakom betalväggar – för att träna AI-system som ChatGPT och Copilot utan tillstånd eller ersättning. Tidningarna kräver skadestånd och att relevanta träningsdata och modeller förstörs, och menar att praktiken skadar deras verksamhet genom att erbjuda ersättande innehåll. Microsoft sa att man var förvånad över stämningen från sin hemstadstidning men är öppen för diskussion. Fallet ansluter till en växande lista av förlagsåtgärder kring AI-träningsdata.

Indiens TCS-enhet planerar stor AI-datacenterinvestering. En enhet inom Tata Consultancy Services planerar att investera upp till omkring 7,4 miljarder dollar i ett stort AI-datacentercampus i Hyderabad, enligt rapporter. Det är ett av Indiens största satsningar hittills på inhemsk AI-beräkningskapacitet i en tid då efterfrågan på infrastruktur fortsätter att öka globalt.