En liten gruppe uautoriserte brukere fikk tilgang til Anthropics Claude Mythos Preview samme dag som selskapet annonserte sin kontrollerte lansering, ifølge Bloomberg.
Hendelsen stiller spørsmål ved Anthropics evne til å begrense en modell selskapet anså som for farlig for offentlig lansering.
Hvordan en Discord-gruppe fikk tilgang til Mythos
Medlemmer av en privat Discord-kanal dedikert til jakten på ugitte AI-modeller gjettet seg fram til Mythos-endepunktets nettadresse.
“Anthropic sa at Mythos var for farlig til å lanseres. Så fikk fire tilfeldige personer i en Discord tilgang første dag ved å gjette URL-en…”, skrev Josh Kale, en populær bruker på X.
De rekonstruerte Anthropics navneregler ved å bruke data som ble avslørt i Mercor-bruddet tre uker tidligere, rapporterte Bloomberg med henvisning til en kilde med kjennskap til saken.
Et medlem i gruppen hadde også gyldige evalueringsrettigheter gjennom kontraktsarbeid for en Anthropic-leverandør. Disse rettighetene, kombinert med den gjetta nettadressen, ga gruppen vedvarende tilgang.
Det rapporteres at brukerne har kjørt Mythos regelmessig siden de fikk tilgang. Samtidig har de unngått forespørsler relatert til cybersikkerhet og heller brukt den til ufarlige oppgaver, som å bygge enkle nettsider.
Anthropic har bekreftet at de undersøker hendelsen, men sier at de ikke har funnet bevis for at tilgangen rakk ut over leverandørmiljøet.
Anthropic har oppgitt at Mythos kan identifisere og utnytte nulldagssårbarheter i alle større operativsystemer og nettlesere.
Gjennom Project Glasswing begrenset selskapet tilgangen til omtrent 40 godkjente organisasjoner, inkludert Apple, Amazon og Cisco, utelukkende for defensiv sikkerhetstesting.
Det hvite hus ønsker føderal tilgang tross Pentagon-forbud
Bruddet skjer samtidig som Det hvite hus arbeider for å utvide Mythos-tilgang til sivile, føderale etater. Kontoret for administrasjon og budsjett sendte 15. april ut e-post til regjeringsmedlemmer med planer om en sikret versjon av modellen.
Dette er en endring fra tidligere i år, da Pentagon betegnet Anthropic som en “leverandørkjede-risiko” etter at selskapet nektet å fjerne sikkerhetsbarrierer for militær bruk.
“Vi vil ikke la NOEN selskap bestemme vilkårene for hvordan vi tar operasjonelle beslutninger,” uttalte talsperson for forsvarsdepartementet Sean Parnell på X.
En føderal dommer satte deretter den utvidede blokaden på pause etter et søksmål fra Anthropic.
Anthropics CEO Dario Amodei møtte representanter fra Det hvite hus 17. april, der begge parter omtalte samtalene som “produktive”.
NSA har allerede brukt Mythos til sårbarhetsskanning til tross for Pentagons svartelisting, ifølge Axios.
