Ethereum-medgründer Vitalik Buterin støtter Moonshot AI sitt valg om å fjerne avanserte hackeferdigheter fra den nye Kimi K3.1 Pro-modellen. Han mener at det å begrense hva AI kan gjøre er bedre enn å begrense hvem som får bruke den.
Denne sikkerheten har imidlertid en merkbar kostnad. Moonshot opplyser at den filtrerte modellen løste 81 % av oppgavene på deres interne exploit-benchmark, mens en ufiltrert versjon løste 90,5 %.
Hvorfor Vitalik Buterin foretrekker AI-begrensninger fremfor brukerfiltrering
Buterin uttalte at det er langt mindre skadelig å diskriminere mellom brukercase enn å diskriminere mot brukere.
Moonshot, en AI-startup fra Beijing, planlegger å publisere modellens åpne vekter innen 4. november. Alle kan da laste den ned og kjøre den på egen maskinvare.
Av den grunn sier selskapet at de har fjernet cybersikkerhetsrelaterte data fra treningsgrunnlaget og fra reinforcement learning-miljøene. Generelle koderelaterte oppgaver er beholdt.
Ifølge Vitalik Buterin vil AI-drevne angrep til slutt slå inn for fullt. Inntil da trenger utviklere tid til å forsterke systemer, sjekke eldre kode og verifisere ny programvare.
Trusselen er allerede synlig. Tidligere i år fant Binance Research ut at AI utnytter smartkontrakter omtrent dobbelt så effektivt som den oppdager feil.
Abonner på vår YouTube-kanal for å se ledere og journalister gi ekspertinnsikt
Hva skjer om den første AI-risikovågen går galt
Buterin advarte også mot alternativet. Om denne første bølgen går galt, forventer han nedlåste modeller, KYC-sjekker på alt, og omfattende overvåking.
I det tilfellet kan AI-tilgang avhenge av legitimasjon og nasjonalitet. Noen personer vil da bli andre-, tredje- eller fjerdeklasses brukere, skrev han.
Vitalik Buterin har lenge foretrukket å kjøre åpne AI-modeller på egen maskinvare, slik hans tester med lokal AI-laptop viste.
Likevel forventer han ikke at denne filtreringen holder for alltid. Da en bruker spurte om andre laboratorier fortsatt vil utvikle slike muligheter, svarte han at det er tilfellet.
Faktisk viser Moonshots egne tall at DeepSeek sin konkurrerende åpne modell V4.1-Flash allerede har oppnådd 85,7 % på samme benchmark.
For Vitalik Buterin har AI-sikkerhet derfor blitt et kappløp mot tiden, ikke en permanent sperre. Det kappløpet favoriserer forsvarere som tar i bruk hans redundante kryptosikkerhetstiltak før angriperne tar dem igjen.











