Ledere i OpenAI, Anthropic og andre AI-selskaper øver i hemmelighet på AI-katastrofer som kan kutte av banktjenester, internett, strøm og vann. OpenAI har bekreftet at de gjennomfører slike øvelser.
Axios rapporterte om øvelsene fredag, som ser forbi selve angrepet. Lederne planlegger like mye for den offentlige og politiske reaksjonen som vil følge etter den første store AI-skaden.
Hvorfor forventer AI-innsidere en krise innen ett år
Mange bransjeinnsidere fortalte ifølge Axios at de forventer en stor AI-hendelse i løpet av seks til tolv måneder. Et dataangrep blir sett på som det mest sannsynlige.
OpenAI uttalte at scenariene er verktøy for planlegging, ikke prognoser.
“Disse scenariene blir ikke sett på som uunngåelige, men skal hjelpe oss å forberede oss på ulike omstendigheter,” rapporterte Axios, med henvisning til en talsperson fra OpenAI.
Et nylig angrep gir et forvarsel. Ifølge CrowdStrike brukte én enkelt hacker kinesiske AI-modeller, blant annet DeepSeek, for å bryte seg inn i sørkoreanske banker. De samme loggene viser at den sørkoreanske bankhackeren spurte Anthropics kodeverktøy, Claude Code, hvor han kunne selge de stjålne dataene.
Rapporten kommer også bare få dager etter at en OpenAI-sjef for sikkerhet trakk seg og advarte om at selskapets prøve-og-feile-kultur gir økende problemer.
Hva vil Washington gjøre etter en AI-katastrofe
Selskapene forventer at Anthropics CEO Dario Amodei, OpenAIs CEO Sam Altman og president Donald Trump får skylden. Trump har motsatt seg regulering av AI.
Planleggere antar at Demokratene vil styrke sin posisjon i mellomvalget i november og raskt gripe inn mot AI. Forslag som allerede er på bordet inkluderer et superintelligensforbud fra senator Bernie Sanders og en utviklingspause fra senator Elizabeth Warren.
Et tverrpolitisk lovforslag, AI Kill Switch Act, vil gjøre det mulig for Department of Homeland Security å pålegge at et farlig AI-system bremses eller stenges ned.
Ledere vet at ingen slik lov kan vedtas nå. I stedet orienterer de politikere for å påvirke reglene som skrives etter en første katastrofe.
Planleggere advarer også om at en nedbremsing av AI kan skade en sårbar økonomi som nå er bundet til AI-boomen. En demokratisk rådgiver pekte på tverrpolitisk samarbeid under COVID-19 og finanskrisen i 2008 som tegn på at Washington kan sette partilinjene til side i en krise.
