AI-nytt, 4 oktober: OpenAI:s säkerhetschef slutar på grund av ‘trasig’ kultur

OpenAI:s säkerhetschef avgår och kallar kulturen ‘trasig’. David Robinson, som ledde skrivandet av säkerhetsrapporter till OpenAI:s stora modellsläpp och arbetat tre och ett halvt år på bolaget, har sagt upp sig. I en essä i The Atlantic menade han att OpenAI och andra labb “inte är nästan tillräckligt försiktiga” och förlitar sig på en trial-and-error-metod som inte längre passar allt mäktigare system. Han jämförde behövliga skyddsåtgärder med dem på kärnkraftverk eller flygplatser – lager av redundans och omsorgsfull planering – och sade att Silicon Valley saknar kultur för att hantera farlig teknik. OpenAI svarade att man fortsätter stärka säkerhetsarbetet, pausar träning vid behov och håller tillbaka modeller som växer snabbare än man kan hantera tryggt. Avgången kommer efter andra avgångar och att tre säkerhetsforskare tidigare skiljts från bolaget, vilket intensifierar debatten om huruvida den snabba AI-utvecklingen springer ifrån ansvarsfull tillsyn, enligt The Guardian, Reuters och TechCrunch.

Vita huset lanserar ‘Super Intelligence Force’. Chefen för nationell underrättelsetjänst Jay Clayton ska leda en ny arbetsgrupp i Vita huset och blir i praktiken administrationens AI-tsar, rapporterade Wall Street Journal. Gruppen, kallad Super Intelligence Force, har 120 dagar på sig att bedöma AI:s risker och möjligheter samt rekommendera den federala regeringens roll. Clayton betonade att USA ska behålla ledningen samtidigt som folkets intressen skyddas. Vice ordförande och medlemmar inkluderar höga företrädare från försvaret, finansdepartementet, FTC med flera. Dragningen följer på branschmöten och frivilliga åtaganden och pekar på en vilja att granska befintliga befogenheter snarare än omedelbar hård reglering, enligt Reuters och Journalen.

Amazon lovar 1 miljard dollar och slopar NDA:er för datacenter. Inför omfattande lokalt motstånd och över 100 föreslagna moratorier mot datacenter som behövs för AI-beräkningar meddelade Amazon att man investerar mer än 1 miljard dollar över fem år i värdkommuner via programmet “Built Together” för utbildning, jobbutbildning, energieffektivitet och lokala prioriteringar. AWS vd Matt Garman sade också att bolaget inte längre använder sekretessavtal med myndigheter kring projekten, för större öppenhet. Kritiker kallade summan liten i förhållande till Amazons enorma infrastrukturutgifter, men NDA-ändringen fick viss beröm. Liknande steg har tagits av andra techbolag, enligt New York Times, TechCrunch och AP.

arXiv begränsar inlämningar på grund av AI-genererat ‘slop’. Den populära förhandspubliceringsservern arXiv begränsar varje inlämnare till två artiklar per månad (och tre aktiva samtidigt) efter att septemberinlämningarna nådde rekordnivåer på 40 363 – nästan dubbelt mot för två år sedan – vilket belastade de frivilliga moderatorerna. Ansvariga kopplade mycket av ökningen till AI-verktyg som producerar tunna, repetitiva eller innehållsfattiga papper. Det tillfälliga taket ska återställa kvaliteten medan nya modereringsverktyg utvecklas; AI-assisterat arbete tillåts fortfarande om det uppfyller vetenskapliga standarder. Förändringen visar hur generativ AI omformar även den vetenskapliga publiceringens infrastruktur, enligt Cybernews och The Register.

Meta gör Muse Gadgets öppen källkod för hemmabyggen av AI-hårdvara. Meta släppte öppen firmware och SDK:er (Apache 2.0) så att hobbyister kan bygga egna enheter – med billiga ESP32-kort eller Raspberry Pi – som kopplas till företagets personliga AI-agent Muse för skärmar, högtalare, sensorer eller smarta hem. Man erbjöd också en begränsad gratis “Home Link”-dongel till amerikanska prenumeranter. Lanserat som sidoprojekt bjuder det in till experiment med fysiska former för AI-assistenter, enligt TechCrunch och andra.