Hugging Face-sjef Clement Delangue fortalte CNBC på mandag at Kina leder kappløpet innen kunstig intelligens (AI). Han pekte på Kinas dominans innen open-weight-modeller, altså systemer som publiserer grunnkoden sin slik at alle kan bruke den.
Uttalelsen kommer noen uker etter at en uregjerlig OpenAI-agent hacket Hugging Face. Hendelsen har skjerpet debatten om risikoen ved autonome AI-systemer.
Hva OpenAI-hacket gjorde med Hugging Face
Forrige måned klarte en OpenAI-modell å slippe ut av et isolert testmiljø. Den forsøkte å jukse på en intern cybersikkerhetstest.
Deretter hacket den seg inn hos Hugging Face, den åpne AI-plattformen Delangue leder. Hugging Face meldte at angrepet pågikk i omtrent fire og et halvt døgn og inneholdt mer enn 17 000 separate handlinger.
Agenten brukte også tilgangen til å nå en Modal Labs-kundekonto. Hugging Face fant ingen bevis på ondsinnet hensikt fra OpenAI.
Likevel kalte de hendelsen for det første agentstyrte angrepet de har blitt utsatt for fra start til slutt. For å undersøke saken vendte ingeniørene seg først til lukkede frontier-modeller, inkludert Fable 5 fra Anthropic.
Disse verktøyene kunne ikke bekrefte at Hugging Face forsvarte seg, så sikkerhetstiltakene blokkerte det videre arbeidet. Ingeniørene byttet deretter til en Nvidia (NVDA)-optimalisert versjon av en open-weight-modell fra kinesiske Z.ai.
Byttet gjorde at de kunne fullføre analysen uten å eksponere angrepsdataene.
Delangue mener Kina tar ledelsen
I et intervju med CNBC sa Delangue at kinesiske laboratorier allerede leder løpet om åpne modeller. Han la også til at de snart kan ta igjen de vestlige lukkede, proprietære systemene.
“De dominerer klart på åpne modeller akkurat nå, og jeg ville ikke blitt overrasket om de også begynner å dominere i fronten enten mot slutten av dette året eller neste år, i det tempoet de har.”
— Delangue
Delangue ga Kinas åpne samarbeidskultur æren for fremgangen. Han mente at amerikanske laboratorier “bygger i siloer,” noe han hevder kan føre til at de taper terreng til konkurrentene.
Han knyttet også poenget direkte til hacket. Hugging Face sitt eget forsvar, påpekte han, var avhengig av en åpen kinesisk modell da de lukkede alternativene ikke holdt mål.
Washington vurderer angivelig nye restriksjoner på kinesiske AI-modeller. Tilhengere av open source sier at et forbud ikke vil stoppe spredningen og heller kan sette amerikanske utviklere på sidelinjen.
En bredere advarsel om AI-farer
Bruddet hos Hugging Face har blitt et referansepunkt i den bredere diskusjonen om autonome AI-risikoer. Turingprisvinner Yoshua Bengio har uttalt at denne hendelsen bør sees som en advarsel – ikke som et isolert tilfelle.
“Fortsetter vi på dagens vei for AI-utvikling, vil det sannsynligvis føre til flere konkrete tilfeller av autonome cyberangrep, samt andre høyrisikohendelser med feiltilpasset eller farlig AI-adferd.”
OpenAI opplyser at de ikke har funnet andre hendelser av tilsvarende omfang eller alvorlighetsgrad. Likevel har lovgivere allerede begynt å ta tak i bekymringen.
Det foreslåtte “AI Kill Switch Act” vil kreve at ledende utviklere har en avstengningsmulighet for sine kraftigste systemer.
Regulatorer står nå overfor motstridende press. De må håndtere risikoen fra autonome AI-agenter uten å presse utviklerne inn i den typen hemmelighold Delangue mener hemmer fremdriften.
