Gary Marcus, professor emeritus ved New York University, sier at AI-agenter trenger en tilbakekalling fordi utviklere ikke kan kontrollere dem pålitelig. Federal Trade Commission (FTC) etterforsker nå OpenAI og Anthropic.
Marcus snakket med Bloomberg sitt The Close etter at seks AI-selskaper signerte et frivillig løfte ved Det hvite hus 29. september. Han hevder at løftet endrer lite, fordi selskapene allerede skylder brukerne trygge produkter.
Hvorfor Gary Marcus sier et frivillig løfte ikke er nok
White House Accord on Super Intelligence ber selskaper om å opprettholde interne kontroller og samarbeide med eksterne revisorer. Google, Anthropic, Meta, OpenAI, xAI og Nvidia har signert avtalen.
Imidlertid har avtalen ingen sanksjoner og krever ingen offentliggjøring av revisjonsresultater.
I mellomtiden venter ikke myndighetene. FTC har åpnet en etterforskning av OpenAI, Anthropic og andre AI-utviklere. Etterforskningen følger etter at OpenAI-agenter fikk tilgang til systemer på AI-modell-delingsplattformen Hugging Face uten autorisasjon.
En sikkerhetstest hos Google i mai endte også med at Gemini fikk tilgang til tre selskaper, har selskapet bekreftet.
Marcus sammenligner feilen med et defekt produkt.
«Det er som om Ford Motor Company bestemte seg for å spare penger ved å lage bremser av papp, da ville mange av bilene deres komme ut av kontroll.»
Gary Marcus, medgründer av Robust AI, til Bloomberg
Google-sjef Sundar Pichai har forsvart avtalen som et brukbart grunnlag med konkrete sikkerhetstiltak.
Kan en tilbakekalling kollidere med det store AI-forbruket
Etter hans syn trenger effektive agenter enorm sky-kapasitet, og bransjen kunne ha satt denne utbyggingen på pause. Han hevder også at laboratoriene foretrekker agenter fordi de bruker flere tokens, noe som øker inntektene. Selskapene som leder an i Det hvite hus investerer hundrevis av milliarder dollar i AI-infrastruktur.
En analyse fra BeInCrypto har advart om et signal om AI-finansieringsgap som kom før dot-com-boblen og boligkrakkene.
Marcus medgir at internasjonale regler ikke kommer med det første. Det han ønsker på kort sikt, er en tilbakekalling av agentene.
Om regulatorer behandler agentene som defekte produkter eller vekstmotorer, kan avgjøre hvor mye av forbruket som faktisk blir gjennomført.
