Vitalik Buterin støtter AI-modell som bevisst reduserte sine hacking-ferdigheter

Les neste
Relatert til temaetEkspertrådet for markedsinnsikt

Vitalik Buterin støtter AI-modell som bevisst reduserte sine hacking-ferdigheter

Nyhetsbrev
Se det store bildet – hver dag.
Viktige nyheter og toppsaker fra markeder, krypto og verdensbegivenheter.
Ved å abonnere godtar du vår personvernerklæring

Ethereum-medgründer Vitalik Buterin støtter Moonshot AI sitt valg om å fjerne avanserte hackeferdigheter fra den nye Kimi K3.1 Pro-modellen. Han mener at det å begrense hva AI kan gjøre er bedre enn å begrense hvem som får bruke den.

Denne sikkerheten har imidlertid en merkbar kostnad. Moonshot opplyser at den filtrerte modellen løste 81 % av oppgavene på deres interne exploit-benchmark, mens en ufiltrert versjon løste 90,5 %.

Hvorfor Vitalik Buterin foretrekker AI-begrensninger fremfor brukerfiltrering

Buterin uttalte at det er langt mindre skadelig å diskriminere mellom brukercase enn å diskriminere mot brukere.

Moonshot, en AI-startup fra Beijing, planlegger å publisere modellens åpne vekter innen 4. november. Alle kan da laste den ned og kjøre den på egen maskinvare.

Av den grunn sier selskapet at de har fjernet cybersikkerhetsrelaterte data fra treningsgrunnlaget og fra reinforcement learning-miljøene. Generelle koderelaterte oppgaver er beholdt.

Ifølge Vitalik Buterin vil AI-drevne angrep til slutt slå inn for fullt. Inntil da trenger utviklere tid til å forsterke systemer, sjekke eldre kode og verifisere ny programvare.

Trusselen er allerede synlig. Tidligere i år fant Binance Research ut at AI utnytter smartkontrakter omtrent dobbelt så effektivt som den oppdager feil.

Abonner på vår YouTube-kanal for å se ledere og journalister gi ekspertinnsikt

Hva skjer om den første AI-risikovågen går galt

Buterin advarte også mot alternativet. Om denne første bølgen går galt, forventer han nedlåste modeller, KYC-sjekker på alt, og omfattende overvåking.

I det tilfellet kan AI-tilgang avhenge av legitimasjon og nasjonalitet. Noen personer vil da bli andre-, tredje- eller fjerdeklasses brukere, skrev han.

Vitalik Buterin har lenge foretrukket å kjøre åpne AI-modeller på egen maskinvare, slik hans tester med lokal AI-laptop viste.

Likevel forventer han ikke at denne filtreringen holder for alltid. Da en bruker spurte om andre laboratorier fortsatt vil utvikle slike muligheter, svarte han at det er tilfellet.

Faktisk viser Moonshots egne tall at DeepSeek sin konkurrerende åpne modell V4.1-Flash allerede har oppnådd 85,7 % på samme benchmark.

For Vitalik Buterin har AI-sikkerhet derfor blitt et kappløp mot tiden, ikke en permanent sperre. Det kappløpet favoriserer forsvarere som tar i bruk hans redundante kryptosikkerhetstiltak før angriperne tar dem igjen.

Ansvarsfraskrivelse

BeInCrypto forplikter seg til upartisk og transparent rapportering. Denne nyhetsartikkelen har som mål å gi nøyaktig og aktuell informasjon. Lesere anbefales imidlertid å verifisere fakta på egen hånd og rådføre seg med en fagperson før de tar beslutninger basert på dette innholdet. Vær oppmerksom på at våre Vilkår og betingelser, vår Personvernerklæring og våre Ansvarsfraskrivelser er oppdatert.