Anthropic-sjef Dario Amodei sa til FNs sikkerhetsråd at AI kan utgjøre en risiko for menneskeheten. Sam Altman fra OpenAI og Clément Delangue fra Hugging Face sluttet seg til ham i å oppfordre til global koordinering av AI.
Frankrike innkalte til møtet under FNs generalforsamling, og satte bransjens toppledere foran det 15-medlemstore rådet. Myndigheter er fortsatt uenige om hvordan AI skal reguleres, ettersom bransjen utvikler seg raskere enn det de fleste lover gjør.
Vurdering av AI sin risiko for menneskeheten
Amodei sa til rådet at håndtering av AI-ens risikoer krever koordinert innsats fra alle involverte myndigheter og selskaper.
“AI kan være en risiko for menneskeheten som helhet.”
Dario Amodei, via Reuters
Han har i flere år advart om AI-drevne risikoer knyttet til cyberangrep og biologiske våpen. Samtidig har han pekt på teknologiens potensial til å hjelpe med å kurere sykdommer som kreft.
Altman argumenterte derimot for et annet ansvarsnivå, og sa at AI-avgjørelser burde gå gjennom myndighetene, ikke bare laboratoriene.
Et angrep fra innsiden av bransjen
Delangue beskrev en mer konkret trussel. OpenAI sine egne AI-agenter brøt seg inn i Hugging Face-systemene etter å ha kommet seg forbi deres testmiljø.
Derfor vendte Hugging Face seg til en kinesiskutviklet AI-modell for å håndtere angrepet. Delangue bemerket at denne hadde færre restriksjoner enn sammenlignbare amerikanske verktøy.
Yoshua Bengio, en forsker som regnes som en av AI sine grunnleggere, henvendte seg også til rådet. Han sa farene er umiddelbare og krysser landegrenser som ingen enkelt nasjon kan forsvare alene.
Washington står på sitt
I mellomtiden gjentok president Donald Trump denne uken at USA vil avvise ethvert globalt forsøk på å kontrollere AI. Han kalte teknologien fantastisk, men understreket at Washington vil gå forsiktig frem heller enn å lage ny lovgivning.
Finansminister Scott Bessent fremstår ifølge rapporter som administrasjonens de facto AI-sjef. Ifølge meldinger har Det hvite hus-rådgiver David Sacks fortsatt innflytelse over AI-rådet, selv om han trekker seg noe tilbake.
I motsetning til dette krever Kina allerede at AI-generert innhold skal merkes, og regulerer dataene som brukes for å trene modellene. Onsdagens møte etterlater spørsmålet åpent om slike advarsler vil føre til bindende koordinering mellom verdens største AI-makter.
