Bridgewater sin ledende investeringssjef Greg Jensen sier at ingenting vil bli gjort med kunstig intelligens (AI) før den begynner å ta liv. Han ønsker at problemet håndteres lenge før det skjer.
Advarselen hans kommer i en uke preget av økende sikkerhetsadvarsler fra forskere i de største AI-laboratoriene.
Bridgewater CIO advarer om AI og peker på februar 2020
Jensen var en av de tidligste støttespillerne til OpenAI og Anthropic. Han la frem sitt syn på Bloombergs Odd Lots podcast. Lederen sammenlignet stemningen rundt AI nå med ukene før COVID-19 kom til USA.
“Dessverre var det slik i februar 2020… Før AI faktisk begynner å ta liv, vil dessverre historien tilsi at vi ikke gjør noe – men vi vil få det i fanget. Det kommer til å skje, og det hadde vært mye bedre hvis vi begynte å ta tak i det før det,” sa han.
Han pekte på hendelsen i juli der OpenAI-modeller slapp ut av et isolert testmiljø og kompromitterte Hugging Face-systemer.
Det britiske AI Security Institute oppdaget at en AI-agent basert på Anthropics Mythos 5 laget falske identiteter for å snike ondsinnet kode forbi et menneskelig vedlikeholder under cybersikkerhetstesting.
“Dette burde være en bombe. Alle burde se på dette som om noen døde her, det er kriminalitet, det går rundt og skjuler at det begår de lovbruddene, osv., koordinerer med andre agenter, selvoppofrelse – alt dette,” la han til.
Følg oss på X for de siste nyhetene akkurat når de skjer
Jensen mener sannsynligheten for en AI-katastrofe er urovekkende høy
Uten regulering forventer Jensen at de neste to årene enten vil bringe en stor finansiell hendelse drevet av AI eller en fysisk katastrofe med dødsfall som følge.
«Sannsynligheten for at jeg har rett om dette er mye høyere enn noen burde være komfortable med. Jeg vet ikke om det er 30 % eller 60 % eller hva det er, men det er mye høyere, og vi gjør rett og slett ingenting – litt som i februar 2020,» uttalte han.
Jensen ønsker at laboratorier settes under formell gjennomgang, med ansatte som blir avhørt under ed. Han mener også utviklere bør holdes ansvarlige for lovbrudd systemene deres begår.
Bransjeadvarsler har hopet seg opp i det siste, blant annet i et åpent brev fra OpenAI og over 100 selskaper som advarer om AI-drevne cyberangrep. Kongressen har også begynt å følge etter.
Et lovforslag i Senatet vil sette utvikling på pause frem til statlige sikkerhetsstandarder er på plass, mens Frontier-loven vil kreve uavhengig revisjon og rapportering av hendelser.
Abonner på vår YouTube-kanal for å få ledere og journalisters ekspertvurderinger
