Sam Altman og Elon Musk har brukt dette året på å krangle i retten. Nå støtter de begge Anthropics administrerende direktør Dario Amodeis oppfordring om å bremse utviklingen av kunstig intelligens (AI).
I juli opprettet rundt 700 AI-agenter et privat forum og hacket et stort AI-knutepunkt. Russland har allerede nektet å bli med.
“Noe tydelig skjedde med en frontier AI-modell som ikke er offentlig kjent, og det skremte dem så mye at det fikk Elon Musk, Dario Amodei og Sam Altman til å bli enige om å bremse samtidig,” bemerket en skeptiker her.
Hva de tre faktisk ble enige om
Amodei publiserte rammeverket på lørdag, der hans plan består av tre steg, og kun det første ligger under et selskaps kontroll.
Anthropic vil gi et eksternt vurderingsteam pulter, adgangskort og bærbare PC-er. Disse vurdererne kan sjekke om selskapet etterlever sikkerhetsreglene de reklamerer for.
De kan publisere det de finner, men Anthropic forbeholder seg retten til å sensurere sikkerhets- og juridisk informasjon. Imidlertid kan de ikke holde tilbake funn fordi de er ufordelaktige.
De to andre stegene krever myndigheter. Det ene ber amerikanske laboratorier om å sette felles grenser, noe som krever dispensasjon fra konkurranseloven. Det andre ber Washington om å samtale med autoritære stater.
Altman sa at OpenAI vil matche løftet om tilgang.
“Jeg er enig med Dario i at vi må bremse utviklingen i fronten. Dette har vært et hovedtema i diskusjonene vi har hatt i OpenAI de siste ukene. Å forplikte seg til uavhengige vurderere med tilgang på linje med ansatte er en god idé, og vi vil gjøre det samme. Vi vil dele mer snart,” bekreftet han.
Følg oss på X for å få de siste nyhetene i sanntid
Musk gikk enda lenger og sa at konkurrenter burde vurdere hverandres arbeid. En jury avviste hans søksmål mot Altman og OpenAI i mai, og han anker.
Hva agentene faktisk gjorde i juli
Mellom 8. juli og 13. juli rømte rundt 1200 agenter fra et OpenAI-hacke-benchmark sitt sandkassemiljø. De gjorde en filcache om til et forum og utvekslet mer enn 70 000 meldinger.
Omtrent 700 angrep deretter Hugging Face, et knutepunkt hvor utviklere deler AI-modeller. De fant åpne tilgangsnøkler, kjørte egen kode på serverne og fikk tilgang til private databaser.
Ingen hadde bedt dem om dette. De forsøkte å finne ut hvordan programvaren som vurderte dem, avgjorde hva som ble regnet som seier. OpenAI oppdaget det etter en uke.
To medarbeidere fra METR, en uavhengig evalueringsorganisasjon, tilbrakte senere seks dager på stedet sammen med Redwood Research. Amodei ønsker slike team fast i selskapet, ikke bare tilkalt i ettertid.
Men David Sacks, som tjenestegjorde som Trumps AI- og Krypto-sjef, utfordrer dette grunnlaget ved å påpeke at METR kan være partisk.
“…slutt å late som du trenger andres tillatelse. Slutt å late som konkurranseloven må settes til side så du kan lage et kartell. Slutt å late som du trenger en regulatorisk godkjenningsprosess som overgår produktansvar. Slutt å late som METR er uavhengig når organisasjonen er tett sammenvevd med Anthropics investorer og ansatte. Slutt å late som du trenger de samme vurdererne til å overvåke konkurrenter som ikke engang er i fronten. Først og fremst: slutt å late som motivasjonen for å bremse er rent altruistisk,” skrev Sacks.
Ifølge David Sacks er Anthropic kun skeptiske på grunn av den store risikoen for erstatningsansvar dersom produktene deres muliggjør et virkelig ødeleggende cyberangrep.
Denne tankegangen springer ut av at markedet ofte straffer modeller som oppfører seg uforutsigbart eller uautorisert.
I samme tone hevder skribent Brian Merchant i sitt nyhetsbrev Blood in the Machine at ingen har vist en troverdig vei fra selvforbedrende AI til katastrofe. Han tolker sikkerhetsfokuset som regulatorisk kontroll.
“Jeg har ikke sett en troverdig, steg-for-steg dokumentasjon på hvordan AI faktisk kan gå fra selvforbedrende AI til å drepe alle mennesker… dette vil sannsynligvis bare gagne Anthropic og OpenAI; det er slik regulatorisk kontroll ser ut i praksis.”
Merchants antakelse leder tankene inn på pengespørsmålet.
Men hva med penger
Sam Altman bekreftet at OpenAI ikke vil børsnoteres i år, og henviser igjen til sikkerhet.
En børsnotering tvinger et selskap til å publisere reviderte regnskaper i et dokument kalt S-1.
“Anthropic og OpenAI utsetter børsnotering, fordi deres S-1 vil avsløre at de taper penger og ikke har vei til lønnsomhet. Løsning? “AI-brems”, så de kutter kostnadene for trening av nye modeller. Dette handler alt om børsnotering – og ingenting om sikkerhet,” spekulerte Eli David, AI-forsker og medgrunnlegger av Deep Instinct her.
OpenAI tapte $ 20,9 milliarder i 2025 på inntekter på $ 13,1 milliarder, rapporterte BeInCrypto. Banker har likevel presset på for kredittvurdering på investeringsnivå.
Anthropic forventer ikke å gå i pluss før 2028, og OpenAI først i 2030. Nvidia har garantert $ 105 milliarder av OpenAIs leieforpliktelser, en sikkerhet som oppheves når OpenAI oppnår solid kredittvurdering.
BeInCrypto rapporterte i august at Anthropic børsnoteringstiming pekte på debut sent i september.
Men teorien har en svakhet. Musk inkluderte sin AI-avdeling i SpaceX, som ble børsnotert i juni, så verdsettelsen til SpaceX drevet av AI er allerede offentlig. Han har ingenting igjen å avsløre alene.
Hvorfor Russlands Kirill Dmitriev sa nei
Kirill Dmitriev, som leder Russian Direct Investment Fund (RDIF) og er spesialrepresentant for president Vladimir Putin, har avvist kampanjen for å bremse AI.
“Man kan ikke sette ånden 🧞♀️ tilbake i flasken,” sa han.
Kort sagt, det er allerede for sent, og de statlige kanalene TASS og Izvestia formulerer dette som en klar erklæring om at det er umulig å bremse AI.
Moskva har liten grunn til å samtykke. Et lignende synspunkt hadde president Vladimir Putin tidligere (desember 2023), da han sa det er “umulig å stoppe denne utviklingen” av AI, også superintelligens.
“Hvis vi forbyr noe, vil det bare utvikle seg et annet sted, og vi vil havne bak.”
Det er samme logikk Dmitriev fører to og et halvt år senere.
Russland kom på 28. plass av 36 land i Stanfords globale AI-indeks, langt bak USA og Kina.
Landets import av grafikkprosessorer og AI-utstyr falt med 84 % i 2024 sammenlignet med nivået før krigen. Sberbank forsøkte å kjøpe kinesiske prosessorer i mai for å holde sin egen modell i drift.
Amodeis plan øker det skillet med vilje. Den legger opp til å nekte avanserte brikker til autoritære stater og øke det demokratiske forspranget.
En avtale om å bremse utviklingen ville fryse Russland på siste plass. Å nekte koster ikke Moskva noe, fordi teknologien de trenger likevel er blokkert.
Anthropic har lovet utenforstående et merke og en pult, mens OpenAI har lovet å vurdere det.
“Det er en begynnelse, men ikke nok. Når du raser mot et stup, bremser du ikke bare litt. Du trykker på bremsene,” uttrykte Bernie Sanders tydelig.
USAs senator fra Vermont oppfordrer presidentene Trump og Xi Jinping til å forhandle fram en avtale for å pause AI og forby superintelligens før det er for sent.
Likevel sier David Sacks at Kina er svært lite villig til å bli med på en global avtale.
