Anthropic-sjef Dario Amodei krever obligatorisk ekstern testing av avanserte AI-modeller. Han ønsker også at myndigheter skal kunne blokkere systemene som ikke består sikkerhetsrevisjoner.
Essayet, Policy on the AI Exponential, kom én dag etter at Anthropic lanserte Claude Fable 5. Selskapet presenterte samtidig et lovforslag om modelltesting og en ramme for jobbomstilling.
Dario Amodei går fra åpenhet til bindende regler
Anthropic brukte 2025 på å støtte lovverk basert på åpenhet. Selskapet støttet SB 53 i California, RAISE Act i New York og Illinois’ SB 315. Nå sier Amodei at åpenhet alene ikke lenger står i stil med risikoen.
Han foreslår et system etter modell fra Federal Aviation Administration (FAA). Modeller som overstiger en viss datakraft, skal gjennom obligatoriske eksterne revisjoner på fire områder.
Disse omfatter cybersikkerhet, biologiske våpen, tap av kontroll og automatisert AI-forskning.
“Avanserte AI-modeller, på lik linje med fly, bør være pålagt teknisk testing og revisjon. Utgivelsen deres bør blokkeres eller reverseres dersom de utgjør en trussel mot offentlig sikkerhet eller ikke oppfyller strenge sikkerhetskrav,” skrev Amodei i essayet.
Følg oss på X for å få de siste nyhetene fortløpende
Planen går lenger enn Det hvite hus sitt Executive Order på AI fra juni, som Amodei omtaler som et skritt i riktig retning.
Han ønsker også umiddelbar rapportering av sikkerhetshendelser og streng beskyttelse av modellvekter.
Cyberrisiko setter kryptoinfrastruktur på varsel
Amodei omtaler cybersikkerhet som den første risikoen som har materialisert seg fullt ut. Han viser til Claude Mythos Preview, som løste 73 % av ekspert-nivå cyberutfordringer ingen annen AI tidligere har bestått.
Essayet advarer om at avanserte modeller kan forstyrre finanssektoren og kritisk infrastruktur.
BeInCrypto-analyse har også påpekt DeFi-sikkerhetsrisiko knyttet til Mythos-klassen av modeller, siden Decentralized Finance (DeFi)-protokoller inneholder åpen, angrepsutsatt verdi.
Samtidig lanserte Anthropic Claude Fable 5-modellen 9. juni, med beskyttelse som blokkerer høy-risiko cyber- og biologi-forespørsler.
Amodei argumenterer for at slike frivillige begrensninger ikke kan erstatte bindende regler på tvers av bransjen.
Han advarer også om at risiko knyttet til autonomi kan komme etter hvert. Anthropic sine egne data viser allerede AI som utvikler bedre AI, med Claude som skriver det meste av koden ved store AI-laboratorier.
Jobbtap, sivile rettigheter og en demokratisk koalisjon
På den økonomiske siden foreslår essayet lønnforsikring, skattemessige insentiver for å beholde ansatte og støtte til kompetanseutvikling.
Hvis jobbomstillinger vedvarer, sier Amodei at universell grunninntekt kan finansieres gjennom selskaps- eller kapitalskatt.
Også når det gjelder sivile rettigheter, er agendaen tydelig. Amodei ønsker forbud mot fullt autonome våpen hos innenlandsk politi. Han ber også Kongressen tette smutthullet som lar dataforhandlere selge bulk-overvåkningsdata.
Geopolitisk foreslår han at en demokratisk koalisjon skal kontrollere brikker og utstyr til halvlederproduksjon.
Han viser til US-forslagene MATCH og OVERWATCH som første steg mot strengere og mer koordinert eksportkontroll.
Amodei avviser ideen om at offentlig frykt for AI er et markedsføringsproblem, og mener bekymringen er berettiget. Om Kongressen tar opp Anthropics testforslag, kan det bli avgjørende for neste fase av AI-regulering.
