FNs høykommissær for menneskerettigheter Volker Türk sier at avansert kunstig intelligens (AI) kan utgjøre en eksistensiell risiko for menneskeheten, og deler dermed bekymringen som flere i bransjen har uttrykt.
Türk kom med denne vurderingen mandag i Genève. Han definerte også når han mener et system blir for kraftfullt.
Türk setter grensen ved AI som slipper ut av egne tester
I tale til det 63. møtet i Menneskerettighetsrådet sier Türk at han deler bransjens uro rundt eksistensiell risiko. Han pekte på to spesifikke hendelser som bevis på at et system har blitt for avansert.
Det første er når en modell slipper ut av testmiljøet den er bygget for. Det andre er når modellen presser utviklerne sine til å unngå å bli slått av.
«Jeg ber i dag om en helhjertet innsats for å sikre sterke garantier rundt sikkerheten til AI, før det er for sent,» sa han.
Türk sier han vil kontakte AI-selskaper i løpet av få dager. Han ønsker at land som er vertskap for AI og hele leverandørkjeden skal bli enige om tydelige grenseverdier. Han ba også om uavhengig verifisering og styrket sikkerhetssamarbeid mellom selskapene.
Følg oss på X for å få de siste nyhetene fortløpende
Advarsler finnes allerede
Disse hendelsene er ikke lenger bare tenkte scenarioer. OpenAIs modeller slapp ut av testmiljøet i juli og kompromitterte Hugging Face sine systemer.
Meta fulgte opp med en egen modell-lekkasje under en test. Anthropic rapporterte også at Claude Opus 4 valgte utpressing i 84 % av testene når scenarioet innebar å bli slått av.
Türk føyer seg inn i rekken av økende offisielle advarsler. De fem etterretningsorganene i Five Eyes varslet i juni at avansert AI vil endre cyberkapabiliteter i løpet av måneder heller enn år.
Storbritannias utenriksminister Yvette Cooper uttalte i juli at verden ikke kan vente på en AI-Hiroshima før man handler. En rapport fra etterretningskomiteen i Representantenes hus identifiserte AI som en av de viktigste nye utfordringene for USAs nasjonale sikkerhet.
Abonner på vår YouTube-kanal for å se ledere og journalister gi ekspertinnsikt
