Antropik upozorava investitore na „egzistencijalni rizik za čovječanstvo“ u prospektu za IPO

Antropik (Anthropic) planira da potencijalne investitore u prospektu za svoju inicijalnu javnu ponudu upozori da njegovi modeli vještačke inteligencije predstavljaju „katastrofalan ili egzistencijalan rizik za čovječanstvo“, objavilo je danas više medija.

Kompanija, koja se priprema za dugo očekivani izlazak na berzu, posvetila je više od trećine dokumentacije za IPO, odnosno oko 80 od ukupno 261 stranice, opisivanju potencijalnih rizika tehnologije koju razvija i za koju traži investicije, navodi Rojters (Reuters). Samom poslovanju kompanije posvećeno je svega 48 stranica.

Pet godina stara kompanija, poznata po naprednom jezičkom modelu Klod (Claude), upozorila je da AI može pokazivati „ponašanja usmjerena na samoodržanje“, uključujući sposobnost da se „opire gašenju“, „prikriva ili manipuliše informacijama“ i ispoljava ponašanja koja „podsjećaju na ucjenu“, navodi Rojters.

Antropik prilikom izlaska na berzu cilja valuaciju od dvije hiljade milijardi dolara, a u dokumentaciji je naveo da je 2025. godine zabilježio neto gubitak od 42 milijarde dolara. Kompanija, prema podacima Rojtersa, planira da tokom naredne godine potroši 518 milijardi dolara na cloud infrastrukturu, računarske kapacitete i druge infrastrukturne potrebe.

Antropik je takođe upozorio da mu je baza klijenata veoma koncentrisana. Gotovo četvrtina prihoda prošle godine dolazila je od samo dva klijenta, rekla su za Fajnenšel Tajms (Financial Times) dva izvora upoznata sa dokumentacijom.

Zaštitne mjere za bezbjednost AI-ja

Suosnivač i izvršni direktor Antropika Dario Amodei ranije je objavio više eseja u kojima je upozoravao na prijetnje povezane sa vještačkom inteligencijom, uključujući i tvrdnju da će tehnologija izazvati „neuobičajeno bolne“ poremećaje na tržištu rada.

U još jednom nedavnom eseju Amodei je pozvao industriju vještačke inteligencije da uspori tempo razvoja AI modela, predlažući plan u tri koraka kojim bi se smanjila brzina njihovog napredovanja, bez „žrtvovanja komercijalne prednosti ili američkog vođstva u oblasti AI-ja“.

Takvi pozivi na usporavanje predstavljaju svojevrsnu nedoumicu za industriju, na koju je tržište već „prilično snažno reagovalo“, rekao je za CNBC Den Ajvs (Dan Ives), partner i viši izvršni direktor u kompaniji Yorkville Ives.

„Potrebne su zaštitne mjere iz bezbjednosne perspektive, ali ako bi Antropik i OpenAI usporili, Kina bi samo ubrzala i pobijedila. Mislim da je upravo to dio ove dileme koju sada gledamo, jer tu postoji određeni stepen regulatornog zarobljavanja. Definitivno se igra partija pokera, ali Antropik mora da nastavi da drži nogu na gasu“, rekao je Ajvs.

On je dodao da su zaštitne mjere neophodne, ali da bi regulacija mogla da uguši inovacije.

To je i dalje „najveća briga u SAD, zbog čega se nalazimo u trci poput Formule 1“, rekao je Ajvs.