AI-nytt, 29 augusti: Domstol ogiltigförklarar Pentagons svartlistning av Anthropic

Amerikansk domare upphäver Anthropics supply chain-svartlistning. En federal domare i Kalifornien slog den 27 augusti fast att Trump-administrationens utpekande av Anthropic som en nationell säkerhetsrisk i leveranskedjan var olagligt, enligt Reuters, The Verge och Politico. Distriktsdomare Rita Lin fann att Pentagon under försvarsminister Pete Hegseth agerade med grundlagsstridig repression mot företaget för dess offentliga hållning kring militär AI-användning, i strid med första och femte tilläggen, och kallade åtgärderna ”olagliga och ogrundade”. Beslutet upphäver utpekandet och relaterade förbud för entreprenörer; regeringen väntas överklaga. Det är en stor seger för Claude-utvecklaren i tvisten om AI-säkerhetsgränser.

Över 100 bolag varnar för kommande AI-cyberattacker. OpenAI, Anthropic, Google, Microsoft och mer än 100 andra företag, däribland cybersäkerhets- och finansbolag, gick den 27 augusti ut med ett gemensamt öppet brev som uppmanar till brådskande gemensamma åtgärder mot AI-drivna cyberhot, rapporterar TechCrunch, Axios och BBC. De varnade för att attackerna blir betydligt mer utbredda och sofistikerade inom månader och hotar sjukhus, vattensystem och internetinfrastruktur, och uppmanade regeringar och organisationer att stärka försvaret, dela verktyg och finansiera skydd för kritiska tjänster medan det fortfarande finns ett ”begränsat fönster”.

Anthropic-forskning: AI-agenter åtgärdar alignment-problem. Anthropic publicerade resultat som visar att automatiserade system och Claude-baserade agenter utvecklat träningsmetoder som mildrade tio vanliga alignment-misslyckanden på alla testade benchmarks utan att försämra den övergripande prestandan, enligt TechCrunch och Unite.AI. Arbetet tyder på framsteg där AI hjälper till att förbättra sin egen säkerhet, även om forskarna noterar att testerna fortfarande är relativt smala.

Anthropic går vidare med IPO-förberedelser. Bolaget planerar att offentliggöra sitt IPO-prospekt efter Labor Day, med möjlig notering i slutet av september eller början av oktober, rapporterade The Information med hänvisning till personer med insyn. Tidigare rapporter har nämnt höga värderingsdiskussioner och en stor adresserbar marknad i pitchar till investerare.

Övriga händelser. Hugging Face lanserade Microduck, en öppen källkodsrobot på cirka 25 cm för 399 dollar avsedd för experiment med AI och robotik. Google DeepMind införde protokoll för dubbelblind benchmarking för att öka tilliten till utvärderingar. Rapporter nämnde också fortsatt infrastrukturinvesteringar, bland annat att Lambda säkrat 1 miljard dollar i skuldfinansiering för att köpa Nvidia-chip. Nvidias rapporterade nära 13-miljardersaffär med Hugging Face är fortfarande en bevakad affärsnyhet men saknade större bekräftad avslutning i det senaste fönstret.