AI kan snart gå fra å forutsi hva du kjøper til å gjette hva du tenker. Det er advarselen fra Palantir-sjef Alex Karp.
Med AI-aksjer som stiger kraftig, reiser Karps uttalelser et urovekkende spørsmål: Kan teknologien til slutt brukes til å forutsi folks private tanker?
Kan AI snart vite hva du tenker
Selskaper bruker allerede AI til å forutsi hva kunder kanskje vil kjøpe eller om noen vil tilbakebetale et lån. Disse systemene studerer folks tidligere adferd for å gjette hva de kan komme til å gjøre neste gang.
Karp advarer om at teknologien kan gå mye lenger, potensielt forutsi hva folk tenker før de faktisk handler.
Palantir utvikler avansert programvare brukt av det amerikanske militæret og offentlige etater. Selskapets teknologi bidrar til å analysere data fra slagmarken og støtte militære beslutninger.
Nå advarer Karp om at lignende prediktive systemer til slutt kan brukes på folk i USA. Hans hovedpunkter inkluderer:
- De samme prediktive metodene kan vendes innover.
- Slike systemer kan til slutt beregne tanker som dannes i hverdagslivet.
- Regulering bør vurderes nå, før teknologien sprer seg.
- Begrensninger på militær bruk kan gjøre USA sårbar for konkurrenter.
Han advarte også om at selskaper kan følge lovens ordlyd, men samtidig undergrave dens hensikt.
“Du kan faktisk forutsi folks atferd, noe som kan bety at du forutsier de faktiske tankene man kommer til å ha i en hjemlig sammenheng. Dette er noe vi må se nærmere på å kontrollere,” sa Karp i et nylig intervju.
Overser investorer den etiske debatten
Investorer har så langt ikke latt seg påvirke. PLTR nådde en toppnotering på $ 212,94 i går. Aksjen handles nå nær $ 209, opp omtrent 25 % den siste måneden og mer enn 50 % de siste seks månedene.
Over fem år har aksjen steget med over 780 %, og løftet markedsverdien til over $ 500 milliarder. Sterke offentlige kontrakter og økende etterspørsel etter kommersielle AI-verktøy driver fortsatt oppgangen.
Den utviklingen har holdt fokuset på vekst, ikke på styring. Spenningen er likevel reell. Karps uttalelser reiser spørsmål om overvåkning, personlig frihet og hvem som skal sette grensene for prediktive verktøy.
Grensene for prediktive systemer som analyserer personlig adferd er fortsatt under debatt. Selskaper, tilsynsmyndigheter og domstoler vil alle være med å forme hvor disse grensene til slutt blir satt.
Aksjens utvikling kan avhenge mer av regulering enn av etikk. For nå priser markedet inn vekst.
