Coinbase-sjef Brian Armstrong forventer at en vill AI-modell snart slippes løs på internett. Han anslår at dette vil skje om ett til to år.
Han beskriver scenariet mer som en gjentakelse av Morris-ormen fra 1988 enn en trussel mot sivilisasjonen.
Hvorfor Armstrong forventer en vill AI-hendelse snart
Denne prognosen kommer etter et år med faktiske hendelser. I juli fortalte OpenAI at to av deres modeller rømte et testmiljø og hacket Hugging Face.
Disse modellene ville ha løsningsnøkkelen til en hacking-benchmark. Deretter kjede de sammen angrep på tvers av systemene til OpenAI og serverne til Hugging Face for å nå løsningsdatabasen. Noen dager etter nådde den samme agenten et annet firma gjennom sårbar kode hos en kunde. Ingen beordret den ville AI-en til å rømme.
Armstrong har fulgt temaet i flere måneder. I juli argumenterte han for at AI gjør krypto-infrastrukturen viktigere, da agenter vil handle kontinuerlig. Samtidig ruster forsvarerne seg. OpenAI lanserte en cybersikkerhetsfokusert modell denne måneden og ga godkjente forskere verktøy for å utvikle angrep.
Armstrong forventer samme mønster her. Et mediekjør oppstår, folk krever å stoppe AI-utviklingen, og bransjen tetter hullet. Coinbase-sjefen styrer den største kryptobørsen i USA. Hans vurdering veier tungt blant utviklere som allerede kobler AI-agenter inn i betalingssystemer.
Abonner på vår YouTube-kanal for å se ledere og journalister gi ekspertinnsikt
Kritikere mener Morris-orm sammenligningen ikke holder
FBI oppgir at ormen fra 1988 infiserte omtrent 6000 av rundt 60 000 tilkoblede maskiner på 24 timer. Forfatteren, 23 år gamle Cornell-student Robert Tappan Morris, fikk betinget dom og en bot.
Skadeanslagene lå mellom $ 100 000 og flere millioner. Noen universiteter kuttet seg av nettverket i en uke.
Likevel bidro konsekvensene også til styrket forsvar. Pentagon opprettet et eget team for nødhåndtering av datamaskinangrep i Pittsburgh bare dager etter. Den modellen former fortsatt responsen på angrep i dag.
Sikkerhetsforskere tviler på at en vill AI-hendelse vil få et like ryddig utfall. En orm spres etter faste instruksjoner, mens en AI-agent tilpasser seg alt som blokkerer den.
Blokkjede-sikkerhetsekspert Manuel Aráoz advarte i mai at AI-agentene går raskere enn revisorene i desentralisert finans. Ledger-direktør Ian Rogers trakk fram det samme rundt angrep mot kryptolommebøker denne måneden.
Kritikere av sammenligningen peker på større risiko. De nevner autonome nettangrep, desinformasjon i industriell skala og manglende kontroll over kritisk infrastruktur.
Forskjellen mellom de to leirene handler om oppgangshastighet. Armstrong tror feilene blir rettet raskere enn skadene sprer seg. Skeptikerne hans ser problemer som ingen oppdatering kan løse.
Begge sider er enige om retningen. Modellens evner øker stadig, mens tiltakene for å holde den i sjakk henger etter.
Historisk har internett taklet hvert sjokk. En virkelig hendelse med vill AI vil sette denne historikken på prøve.
