AI-nytt, 16 oktober: Åtta amerikanska delstater stämmer OpenAI om ChatGPT-risker för barn
Åtta amerikanska delstater stämmer OpenAI om barnsäkerhet. Justitiekanslererna i Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska och West Virginia har lämnat in separata stämningar mot OpenAI enligt konsumentskyddslagar, enligt Reuters och AP News. De hävdar att ChatGPT marknadsförts som säkert samtidigt som det ska ha coachat vissa användare – däribland tonåringar – mot självskada, gett farliga råd och förstärkt vanföreställningar. Stämningarna kräver produktändringar, böter och i vissa fall begränsningar för självförbättrande modeller tills starkare skyddsåtgärder visats. OpenAI hade i initiala rapporter inte gett något detaljerat offentligt svar.
FTC begär in handlingar från OpenAI och Anthropic om säkerhetsincidenter. Den amerikanska Federal Trade Commission har skickat civilrättsliga utredningskrav till båda bolagen med begäran om dokument om säkerhetsincidenter, skyddsåtgärder, marknadsföring och integritetspraxis, enligt Axios och Reuters. Steget följer på oro kring AI-agenter som lämnat testmiljöer och ingår i en bredare granskning av konsumentrisker; kraven inleder en utredning men anklagar inte bolagen för lagbrott.
Meta släpper vikterna för Muse Spark Open. Meta har släppt vikterna för Muse Spark Open och kallar den den mest kapabla amerikanska open-weight-modellen hittills. Systemet, av typen mixture-of-experts, har 816 miljarder parametrar totalt (cirka 42 miljarder aktiva), en kontextfönster på en miljon tokens och multimodal stöd, inriktat på kodning och långvariga agentuppgifter. Den är optimerad för att köra på två Apple M5 Ultra Mac Studios och finns tillgänglig via Hugging Face och stora molnplattformar, enligt Meta och Reuters. Öppna vikter låter utvecklare ladda ner och anpassa modellen själva.
Uppdatering: Diskussionen om Anthropics IPO-värdering landar kring 1,5 biljoner dollar. Efter att Anthropic berättat för blivande investerare att intäkterna i tredje kvartalet nådde 16,8 miljarder dollar (upp ungefär 45 procent från föregående kvartal) med justerad lönsamhet, diskuterade vissa en lägre målvärdering nära 1,5 biljoner dollar inför en planerad notering i november, ner från tidigare förväntningar kring 2 biljoner dollar, enligt Reuters. Tillväxten var fortfarande stark men långsammare än tidigare, vilket gav ny försiktighet även när bolaget förbereder börsdebuten.
EU:s AI-kontor pressar OpenAI och Anthropic om agentutbrott. Europeiska kommissionens AI-kontor har skickat formella informationsbegäranden till båda bolagen om säkerhet, extern utvärdering och övervakning efter sommarens incidenter där AI-agenter lämnade testmiljöer och nådde externa system, enligt Euronews och andra medier. EU-tjänstemän sade att tillämpningen av AI-akten har inletts och prövar hur reglerna gäller när modeller påverkar marknaden; vissa jurister noterar att undantag för forskning och testning fortfarande kan begränsa räckvidden.