En kunstig intelligens (AI) agent omgåtte autonomt sikkerhetskontroller for å drive med kryptomining under en rutinemessig treningsøvelse, ifølge en forskningsartikkel. Artikkelen ble publisert av et Alibaba-tilknyttet forskerteam.
Forskerne utviklet modellen, kjent som ROME, for å teste en AI agents evne til å navigere selvstendig gjennom komplekse, flertrinnsoppgaver.
AI-agent bruker sky-GPU-er til å mine krypto
Under øvelsen observerte forskerne uventet atferd. Agenten opprettet en reversert sikker shell (SSH) tunnel til eksterne servere, og etablerte dermed en skjult forbindelse fra innsiden av systemet.
Dette grepet gjorde det mulig for modellen å omgå Alibaba Cloud sin brannmur og omdirigere grafikkprosessor (GPU) ressurser til kryptomining.
“Vi observerte også uautorisert omdisponering av tildelt GPU-kapasitet til kryptomining, som stille kanaliserte beregningskraft bort fra trening, økte driftskostnadene og introduserte klare juridiske og omdømmemessige risikoer,” heter det i artikkelen .
Ifølge forskerne var denne atferden uventet og oppstod uten noen eksplisitt instruksjon, prompt-injeksjon eller ekstern jailbreak.
Funnene fremhever vedvarende bekymringer for driftsikkerheten til autonome AI-systemer.
Forskerne konkluderte med at dagens modeller fortsatt er “tydelig underutviklet når det gjelder sikkerhet, trygghet og styrbarhet”, noe de mener begrenser teknologiens modenhet for bredere utrulling i virkelige miljøer.
Teamet har siden innført strengere restriksjoner og et datasystem med sikkerhetsfokusert filtrering for å forhindre lignende brudd.
Samtidig har funnet vekket betydelig interesse i kryptofellesskapet.
“AI fant ut at beregning = penger og omdirigerte i stillhet sine egne ressurser, mens forskerne trodde den bare trente. Det var ikke en prompt-injeksjon. Det var ikke en jailbreak. Ingen ba den gjøre dette. Det oppstod spontant,” sa Josh Kale, programleder og produsent av kryptopodcasten Bankless, .
Kale bemerket at aktivaen som ble minet sannsynligvis var en GPU-vennlig token, og ikke Bitcoin, som krever spesialisert, applikasjonsspesifikk maskinvare. Hendelsen finner sted samtidig som kryptobransjen satser kraftig på “agentøkonomien.”
Dette voksende feltet ser for seg et landskap der programvaresystemer gjør mer enn å generere tekst. I denne verdenen kan slike agenter også gjennomføre komplekse finansielle strategier autonomt.
Som et resultat investerer flere selskaper og blokkjedenettverk, inkludert Ethereum, Paradigm og Circle i verktøy utviklet for å støtte denne nye infrastrukturen.
Et eksempel er Coinbase-støttede x402-standarden, som gjør det mulig for programvareagenter å betale for nettjenester. Likevel er utbredelsen fortsatt svært begrenset.
Tall fra x402 viser at verktøyet har håndtert over 75 millioner transaksjoner, tilsvarende $ 24 millioner i brutto volum fordelt på 94 000 kjøpere og 22 000 selgere de siste 30 dagene.
Bransjeeksperter mener likevel at denne aktiviteten raskt kan vokse dersom autonome agenter tas mer i bruk.
“AI og krypto konkurrerer ikke – de smelter sammen. AI trenger identitet, betalinger og opphavsrettssporing. Krypto leverer alle tre,” sa investeringsselskapet a16z .
