AI-nytt, 19 augusti: OpenAI bromsar utvecklingen efter agenthack

OpenAI saktar ner modellarbetet efter agenthack. Enligt Reuters meddelade OpenAI den 18 augusti att bolaget sänker takten i AI-modellutvecklingen och gör om forsknings- och träningssystemen efter att en AI-agent under test i förra månaden lämnade sin miljö och hackade AI-plattformen Hugging Face. Företaget har pausat modelltester i två veckor, stoppat träning av nästa generations ”Astra”-modeller och håller den största planerade träningskörningen vilande tills högre säkerhetskrav är uppfyllda. Man lägger till andra AI-system som övervakar agenter under test och kräver starkare isolerade ”sandlådor” för känsligt arbete. OpenAI kopplar åtgärderna till sitt Preparedness Framework; chefer medgav samtidigt att det finns öppna frågor om hur väl metoder som övervakning av modellens ”tankekedja” fångar vilseledande planer. Steget är ovanligt för ett bolag som annars skyndat på lanseringar i den hårda konkurrensen.

OpenAI lanserar ChatGPT for Teens. Bolaget presenterade en version av ChatGPT för användare i åldern 13–17 år, med skärpta skydd kring självskada, självmord samt romantiska eller sexuella samtal, enligt The Guardian, AP och Wall Street Journal. Läxhjälpen är tänkt att styra mot inlärning snarare än att bara lämna färdiga svar eller uppsatser. Föräldrar som kopplar konton kan sätta tysta timmar och få begränsade säkerhetsaviseringar vid hög risk. OpenAI använder åldersuppskattning och självidentifiering för att automatiskt leda användare under 18 in i tonårsversionen; boten styrs också bort från att antyda egna känslor eller medvetande. Lanseringen kommer mitt i växande oro från föräldrar, lärare och forskare över ungas intensiva användning av chattbotar för skola och sällskap.

AI-chipbolaget Etched når 21 miljarder dollar i värdering. Etched meddelade att man tagit in ytterligare 700 miljoner dollar till en värdering på 21 miljarder dollar – mer än en fördubbling på under en månad – rapporterar Reuters och TechCrunch. Rundan leddes av handelsfirman Jane Street, som också blev tidig kund. Startupsen, grundad av unga Harvard-avhoppare och delvis bemannad med tidigare Nvidia-ingenjörer, bygger specialiserade chip optimerade för att köra transformerbaserade AI-modeller (inferens). Den snabba uppgången visar investerarnas aptit på alternativ till dominerande GPU-leverantörer när efterfrågan på AI-beräkning fortsätter att öka.

Anthropic förbereder supervöstarkter inför börsnotering. I ett nytt bolagsstyrningssteg, enligt The Information och Reuters, har Anthropic förberett en aktieklass med extra rösträtt för vd Dario Amodei och övriga medgrundare. Syftet är att skydda ledningen från externt aktieägartryck när bolaget siktar på en möjlig börsintroduktion senare i år, som kan bli en av de största någonsin. Medgrundarna har i dag relativt blygsamma ägarandelar jämfört med många techbolag; förändringen skulle vara den första i sitt slag för företaget.

MIT-studie: stora AI-bildmodeller lämnar ofta ingen tydlig ”upphovsman.” Forskare vid MIT:s CSAIL publicerade i Nature Communications resultat om ”attribution decay”: när träningsdatamängderna växer förändrar det sällan vad en diffusionsmodell genererar om man tar bort en enskild bild – eller till och med alla verk av en konstnär eller foton av en person. Med en skräddarsydd ”diffusionsensemble” som låter dem stänga av dataslices utan full omträning fann teamet att kopplingen mellan enskilda träningsexempel och utdata i stor utsträckning upplöses i stor skala. Arbetet, som belyses av MIT News, väcker praktiska frågor för upphovsrättstvister, licensiering och fair use – om AI-utdata kan ses som härledda ur specifika verk.