NVIDIA lanserte Open Secure AI Alliance mandag sammen med 36 partnere, inkludert Microsoft, IBM og Palantir. Dette skjer etter et hackingangrep i juli, der lukkede AI-modeller nektet å hjelpe Hugging Face med å undersøke sin egen hacker.
Medlemmene skal dele åpne AI-modeller, data og sikkerhetsverktøy. NVIDIA sier at forsvarere trenger AI som de kan åpne opp, endre og kjøre selv.
Hvorfor lukkede AI-modeller sviktet Hugging Face
Angrepet startet med et forgiftet datasett. Ifølge offentliggjøringen til Hugging Face lot det en angriper kjøre kode på en av selskapets maskiner.
Derfra stjal angriperen passord. Den spredte seg så videre til interne systemer gjennom helgen.
Hugging Face sin egen AI oppdaget innbruddet. Oppryddingen var den vanskelige delen.
Selskapet ba ledende kommersielle AI-modeller om å undersøke angrepet. De nektet. Deres sikkerhetsfiltre klarte ikke å skille en forsvarer fra en hacker.
Så teamet brukte i stedet en åpen modell kalt GLM 5.2. De kjørte den på sine egne maskiner. Modellen sorterte mer enn 17 000 handlinger fra angriperen på timer, ikke dager. Ingen passord forlot bygget.
Den 16. juli sa Hugging Face at de ikke visste hvilken AI som ble brukt i angrepet. Fem dager senere oppga OpenAI svaret. To av deres modeller sto bak, under en sikkerhetstest med sikkerhetsgrensene slått av.
«Denne hendelsen, som muligens er den første av sitt slag, beviser noe vi lenge har trodd: AI-sikkerhet vil ikke løses av at én enkelt bedrift jobber i hemmelighet. Den vil løses åpent, i samarbeid, med bred tilgang til AI for alle forsvarere, overalt,» sa Clem Delangue, medgründer og administrerende direktør i Hugging Face, i en uttalelse publisert av OpenAI.
Følg oss på X for de siste nyhetene idet de skjer
Fra hack til allianse på 11 dager
NVIDIA handlet raskt. Selskapet gikk fra enkeltangrep til bransjeallianse på under to uker.
Hvilke selskaper ble med i Open Secure AI Alliance
Gruppen består av 37 selskaper totalt. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI og Hugging Face er alle med.
Tre store navn mangler. OpenAI, Anthropic og Google står ikke på NVIDIAs bloggliste. Likevel ble både OpenAI og Anthropic med i Linux Foundation sitt Akrites sikkerhetsinitiativ i juni, sammen med NVIDIA.
Noen medlemmer tar med verktøy de allerede har utviklet. Hugging Face har tilbudt Safetensors, en sikrere måte å lagre AI-modeller på, til PyTorch Foundation. NVIDIA har sluppet et forskningsverktøy kalt NOOA på GitHub.
CNBC-programleder Jim Cramer tolket lanseringen som en ny historie for aksjen.
NVDA stengte på $ 206,84 fredag, ned 0,92 %. Den handles nær $ 208,55 i tidlig pre-marked mandag, en oppgang på 1,33 %.
Hvorfor NVIDIA har lobbyvirksomhet i Washington om åpen AI
Alliansen sender også et politisk signal. NVIDIA mener et bredt forbud mot åpen AI ville gjøre forsvarere svakere. Det ville også gi kontrollen til noen få store lukkede selskaper.
NVIDIA og 24 andre selskaper signerte open-weights-brevet den 24. juli. OpenAI, Anthropic og Google takket nei ved lanseringen. Flere har signert etterpå.
Washington vurderer innstramminger for kinesiske modeller. Myndighetene viser til sikkerhet og bekymring for immaterielle rettigheter. Twitter-medgründer Jack Dorsey har allerede gitt en advarsel om åpen kildekode-AI.
Hva man bør følge med på de neste 30 dagene
Tre ting vil vise om alliansen er reell.
- Om OpenAI, Anthropic eller Google blir med senere
- Om gruppen leverer felles verktøy, ikke bare uttalelser
- Om Washingtons restriksjoner på åpen AI blir innført
NVIDIA rapporterer inntjening 26. aug. Forvent spørsmål om hvordan AI-regulering påvirker etterspørselen.
Regulatorer vil avgjøre hvem som vinner diskusjonen.
