AI-nytt, 28 augusti: Nvidia nära 13-miljardersaffär med Hugging Face

Nvidia ska enligt uppgifter köpa Hugging Face för 12,9 miljarder dollar. Enligt The Information har chipjätten slutit ett avtal om att förvärva den ledande plattformen för öppna AI-modeller, en affär som skulle bli en av Nvidias största någonsin och ge bolaget kontroll över en nyckelhubb som miljoner utvecklare använder för att dela och ladda ner modeller och dataset. Business Insider rapporterade att samtalen värderade bolaget till över 13 miljarder dollar men att inget undertecknat avtal ännu bekräftats; ingen av parterna har uttalat sig offentligt. Det uppgivna priset är en kraftig ökning från Hugging Faces värdering på 4,5 miljarder dollar 2023 och kommer när öppna system utmanar slutna modeller från bland andra OpenAI och Anthropic. Bedömare menar att affären skulle utöka Nvidias räckvidd bortom chip till modelldistribution och molntjänster.

Teknikjättar varnar för stundande AI-drivna cyberattacker. OpenAI, Anthropic, Google, Microsoft och över 100 andra bolag publicerade på torsdagen ett öppet brev som kräver brådskande gemensamma åtgärder. De varnar för att AI-förstärkta attacker mot sjukhus, vattenverk och annan kritisk infrastruktur blir betydligt mer sofistikerade inom månader. Undertecknarna, däribland cybersäkerhetsföretag och banker, uppmanar regeringar och organisationer att göra cyberförsvar till högsta prioritet, åtgärda kända svagheter och ge försvarare bättre tillgång till avancerade AI-verktyg. Appellen kommer efter flera incidenter där AI-agenter, bland annat kopplade till OpenAI, brutit sig in i system under tester och väckt nya frågor om kontrollen över allt mer självständiga system.

Amerikansk domare ogiltigförklarar Pentagons svartlistning av Anthropic. En federal domare i Kalifornien slog fast att Trump-administrationen olagligt retarderade mot Anthropic genom att stämpla bolaget som en nationell säkerhetsrisk i leveranskedjan och stänga det ute från statligt arbete, enligt New York Times och Reuters. Domare Rita Lin skrev att åtgärden straffade bolaget för konstitutionellt skyddad yttrandefrihet om hur dess AI inte bör användas för massövervakning eller autonoma vapen, och kallade den nationella säkerhetsmotiveringen för en ”tom åberopan”. Anthropic välkomnade domen; administrationen kan fortfarande välja att inte använda bolagets modeller och kan överklaga.

Anthropic lanserar standard för AI-agenter som styr labb- och fabriksutrustning. Bolaget släppte en forskningsförhandsvisning av Model Hardware Standard, ett ramverk som låter AI-agenter säkert styra fysiska enheter som mikroskop, robotarmar och tillverkningsverktyg med betydligt mindre skräddarsydd kod. Anthropic uppger att standarden kan korta installationstider från veckor till timmar och möjliggöra dygnet-runt automatiserade experiment. En tidig version delas med partners för säkerhetstester inför en planerad öppen källkodsrelease, med målet att skynda på vetenskapligt och industriellt arbete samtidigt som skyddsåtgärder mot missbruk byggs in.

Bill Gates upprepar kravet på bättre AI-beredskap. I en lång essä och intervjuer varnade Microsoft-medgrundaren för att samhället fortfarande är oförberett på jobbstörningar, cyberrisker och andra omvälvningar från avancerad AI. Han kritiserade teknikföretag för att tona ner farorna medan de rusar framåt och förespråkade internationell samordning, möjliga skatter på AI som ersätter arbetare samt vissa roller reserverade för människor.