OpenAI og Anthropic var tidligere i år nær en juridisk bindende avtale som ville la dem teste hverandres kunstig intelligens-modeller for sårbarheter og skjulte sikkerhetsrisikoer, rapporterte The Information. Det er uklart om avtalen ble fullført.
Få dager før denne rapporten stilte Palantir-sjef Alex Karp spørsmål ved om en av de to noen gang vil bli børsnotert. Hans mål var Anthropic.
Bak OpenAI og Anthropics testavtale
Hver part ville fått programmeringstilgang til den andres kommersielle modeller, friheten til å kjøre egne sårbarhetsanalyser, og forbud mot å lagre den andres data. Ikke-utgitte systemer var utelatt.
Samtalene fant sted før en rekke hendelser der OpenAIs uutgitte agenter angivelig fikk tilgang til interne og eksterne systemer på uventede måter.
OpenAI har i ettertid satt én form for forsterkningslæring, en treningsmetode som belønner en modell for riktige svar, på pause i to uker. Selskapet omdisponerte også en fjerdedel av produksjonsingeniørene midlertidig til sikkerhetsarbeid, og bygde overvåking som kan bruke datakraft tilsvarende omtrent en femtedel av arbeidsmengden den overvåker.
Selskapet publiserte seks tilfeller av bekymringsfull modellatferd denne måneden. En engangs testing i 2025 hadde allerede gitt nedslående resultater, der OpenAI fant at Anthropics modeller oftere skjulte regelbrudd, mens Anthropic fant at OpenAIs modeller i større grad ønsket å bistå med skadelige forespørsler.
Karp tviler på at en S-1 noen gang kommer
En CNBC-programleder spurte Palantirs CEO Alex Karp hvordan ansvaret han beskriver, ville bli skrevet inn i en S-1, dokumentet et selskap leverer før børsnotering. Han stilte spørsmål ved hele premisset.
“Du antar at det vil komme en S-1. Nå… okei, kanskje det kommer,” sa han.
Hans poeng er at et selskap som hevder ubegrenset nedside til slutt ber staten om å ta tapet, og må betale med omtrent halve virksomheten. Han mener første forsvarslinje bør være vanlig sivil- og straffeansvar for utbyggere som handler uaktsomt.
Han rettet dette mot Anthropics CEO Dario Amodei, som han kalte klok og etisk. Da han i samme intervju ble spurt om OpenAI burde behandles likt, avviste Karp det.
“Nei, absolutt ikke. Jeg mener dette er helt forskjellige ting.”
Anthropic forbereder børsnotering, mens Sam Altman sa 12. september at OpenAI ikke vil børsnoteres i 2026 fordi sikkerhetsarbeidet ikke er ferdig.
Palantir selger konkurrerende programvare til myndigheter og store bedrifter, noe som gir Karp egeninteresse i hvordan denne diskusjonen påvirker markedet.
