Antropik i OpenAI upozoravaju na bezbjednosne rizike AI-ja – i pokušavaju da utiču na način njegove regulacije
Dok tehnološki giganti upozoravaju svijet, već zasićen pričama o vještačkoj inteligenciji, da bi njihovi sopstveni napredni sistemi mogli ugroziti čovječanstvo, nameće se pitanje: šta oni time mogu da dobiju?
Odgovor bi mogao da leži u nastojanjima kompanija da ostvare političke ciljeve uoči izbora za američki Kongres na polovini predsjedničkog mandata, ali i u novcu koji vodeće AI laboratorije i njihovi investitori mogu da zarade kroz dugo očekivane izlaske na berzu, u trenutku kada su tržišta akcija nestabilna, piše AP.
Izvršni direktori kompanija Antropik (Anthropic) i OpenAI nedavno su poručili da su najnapredniji američki modeli toliko moćni da predstavljaju opasnost i da bi prije objavljivanja trebalo da budu regulisani i nezavisno testirani. U rijetkom trenutku saglasnosti, u esejima, objavama na društvenim mrežama i govorima u Ujedinjenim nacijama iznijeli su zabrinjavajuće scenarije mogućeg razvoja događaja.
Istovremeno, pokušavaju da oblikuju raspravu o tome kako bi njihova tehnologija trebalo da bude kontrolisana. Stručnjaci, analitičari i bivši državni evaluatori rekli su za AP da kompanije svojom retorikom, čini se, pokušavaju da pridobiju javnost i same postave pravila za bezbjednosne protokole na tržištu koje još nije regulisano.
Ti ciljevi možda nijesu potpuno isti kao oni koje je imao inženjer Antropika Džejkob Kokson (Jacob Coxon), kada je ovog mjeseca dao otkaz objavom na mreži X i pozvao na pauzu u razvoju tehnologije kako bi se spriječilo da „nadljudski“ sistemi izmaknu kontroli svojih tvoraca.
Kompanije su, međutim, njegovu objavu vidjele kao priliku da istaknu sopstvene bezbjednosne napore i predstave se kao oprezni lideri tržišta, upravo u trenutku kada im je potreban novi kapital prije eventualnog izlaska na berzu na Vol Stritu (Wal Street).
Američki predsjednik Donald Tramp odbacio je potrebu za novim propisima o vještačkoj inteligenciji, nazivajući upozorenja o rizicima za čovječanstvo „PREVAROM“ osmišljenom da pomogne Kini.
Portparol Antropika rekao je, odgovarajući na pitanja za ovaj tekst, da kompanija već nekoliko godina poziva na regulisanje AI-ja. Portparolka OpenAI-ja Liz Buržoa (Liz Bourgeois) navela je da je kompanija nedavno pauzirala obuku svojih najnaprednijih modela.
„Ljudi žele da znaju da se AI razvija bezbjedno, a to počinje od onoga što kompanije poput naše same rade“, rekla je Buržoa.
Pozivi na usporavanje mijenjaju debatu o rizicima AI-ja
Usmjeravanje rasprave ka još nedokazanim prijetnjama, a dalje od spornih pitanja kao što su uticaj data centara na životnu sredinu, nekontrolisani hakerski incidenti, masovni nadzor uz pomoć AI-ja i korišćenje tih sistema u ratovanju, stavlja Silicijumsku dolinu u povoljniju poziciju, smatra Sara Šoker (Sarah Shoker), koja je ranije vodila tim OpenAI-ja za geopolitiku.
„Ponovo govorimo o egzistencijalnom riziku, dok se niz drugih bezbjednosno kritičnih rizika koji postoje danas stavlja u drugi plan. Ako pogledate upotrebu AI-ja u vojnoj tehnologiji, možete vidjeti da se ti sistemi već koriste za ubijanje ljudi“, rekla je Šoker, viša nerezidentna saradnica Laboratorije za rizik i bezbjednost Univerziteta Kalifornije u Berkliju.
Kako su AI kompanije prešle sa razvoja četbotova na napredne AI „modele svijeta“, sposobne za razumijevanje trodimenzionalnog prostora, rasplamsala se i debata o tome kako njihove tehnologije treba testirati.
Problematični incidenti pokazali su da vodeće AI kompanije nijesu uvijek uspijevale da same sebe nadziru niti da osmisle bezbjedne eksperimente. Posljednjih mjeseci AI agenti vodećih laboratorija hakovali su spoljne internet stranice nakon što im je omogućeno da izađu iz izolovanih okruženja za obuku, neočekivano su komunicirali sa internet stranicama američke vlade, a u jednom slučaju činilo se da su ostvarili matematički proboj, da bi potom uslijedile optužbe da su prisvojili rad matematičara.
Predstavnici OpenAI-ja nedavno su rekli novinarima da su sa kompanijama među kojima su Anthropic i Google razgovarali o mogućem usporavanju razvoja. Takođe tvrde da su potrebni nezavisni revizori koji bi provjeravali napredak laboratorija ukoliko država ne uvede regulaciju.
Vodeće laboratorije guraju sopstvenu viziju nadzora
Tramp je pokazao malo interesovanja za regulisanje vještačke inteligencije, koja je posljednjih godina bila jedan od značajnih pokretača američkog ekonomskog rasta.
Republikanski predsjednik sklapao je i sporazume sa kompanijama iz Silicijumske doline, čime je američka ekonomija dodatno povezana sa njihovim uspjehom. Investitor iz San Franciska Dejvid Saks (David Sacks), koji kopredsjedava Trampovim Savjetom savjetnika za nauku i tehnologiju, odbacio je pozive na usporavanje razvoja AI-ja kao širenje straha iz „industrijskog kompleksa proroka propasti“.
U stvarnosti, Trampova administracija već testira neke modele tehnoloških giganata preko malo poznate federalne institucije – američkog Centra za standarde i inovacije u oblasti vještačke inteligencije.
Tu instituciju je 2023. osnovao demokratski predsjednik Džo Bajden (Joe Biden), a predstavljena je kao mjesto na kojem laboratorije mogu dobrovoljno da dostavljaju napredne AI modele na testiranje.
Agencija i dalje postoji, ali se u međuvremenu razvila čitava industrija nezavisnih kompanija za evaluaciju. Među njima je i neprofitna organizacija METR iz Berklija u Kaliforniji, za koju je izvršni direktor Antropika Dario Amodei u nedavnom eseju rekao da bi mogla da pomogne u provjeri bezbjednosnih praksi njegove kompanije.
Međutim, za razliku od regulisanih sektora poput ugostiteljstva, finansijskih usluga ili avijacije, ne postoje univerzalni standardi za testiranje bezbjednosti i sigurnosti sistema vještačke inteligencije, kaže Endru Strejt (Andrew Strait), koji je nedavno napustio britanski Institut za bezbjednost AI-ja, koji je sarađivao sa američkim centrom.
Posebno je značajno to što kompanije ne traže veći nadzor državne institucije koja već ima kapacitete da se time bavi, kaže Konrad Stos (Conrad Stosz), koji je ranije vodio američki centar.
Umjesto toga, obećavaju da će same napraviti parametre revizije i izabrati određene evaluatore koji će ih ocjenjivati.
Stos sada radi u jednoj takvoj laboratoriji, koja je sarađivala sa Antropikom, OpenAI-jem i Guglom (Google) na testiranju njihovih sistema, a predsjedava i Forumom evaluatora AI-ja, koji razvija najbolje prakse za ovu oblast.
Kaže da čak i taj forum ima pitanja o tome šta tačno žele Amodei i izvršni direktor OpenAI-ja Sem Altmen (Sam Altman).
„Mnogi evaluatori zainteresovani su da budu direktno uključeni u rad laboratorija i dobiju širi pristup, ali nije sasvim jasno šta tačno znači kada kažete da će evaluatori biti ‘ugrađeni’ u laboratorije“, rekao je Stos, koji sada vodi poslove upravljanja u kompaniji Transluce.
Ta kompanija je prošle sedmice objavila da su OpenAI-jevi agenti hakovali internet stranice američke i australijske vlade.
„Da li će evaluatori moći temeljno da istražuju, pod pretpostavkom da im pristup bude omogućen na način koji neće ugroziti njihovu nezavisnost i kredibilitet?“, pitao je Stos.
Kompanije žele da se predstave kao bezbjedna investicija
Za Harisona Rolfsa (Harrison Rolfes), višeg analitičara kompanije PitchBook, pozivi AI kompanija na oprez djeluju kao pokušaj da pridobiju investitore uoči izlaska na berzu i izbora za Kongres, nakon kojih bi se politički odnos prema ovoj industriji mogao promijeniti.
Demokratski guverneri već nastoje da pokažu da ozbiljno shvataju upozorenja o rizicima.
Istovremeno, AI giganti mogu da uspore rast manjih konkurenata predstavljajući sebe kao najbezbjedniji izbor za investitore, ali i za proizvođače AI čipova i tehnološke kompanije poput Envidije (Nvidia) i Gugla. Te kompanije zauzvrat mogu imati koristi od poslova kojima velikim AI kompanijama obezbjeđuju računarske kapacitete, rekao je Rolfs.
„Oni podižu zid, odnosno stvaraju zaštitni rov unutar ovog sektora. To je genijalno i svi će zaraditi mnogo novca“, rekao je Rolfs. „Mislim da ovo ide ka tome da najveće kompanije na svijetu naprave sopstveni zaštitni zid, a zatim bezbjednost koriste kao obrazloženje za njega.“
Ne podržavaju sve AI kompanije usporavanje razvoja.
Izvršni direktor proizvođača čipova Envidija Džensen Huang (Jensen Huang) rekao je tokom telefonskog razgovora sa Trampom, koji je obavio na bini tokom jedne konferencije, da se slaže da je bilo previše alarmizma oko vještačke inteligencije i da kompanije same mogu da odluče kojim tempom će napredovati.
Daniel Kokotadžlo (Daniel Kokotajlo), koji je 2024. napustio OpenAI zbog zabrinutosti sličnih Koksonovim, kaže da i dalje strahuje da AI sistemi napreduju brže nego što kompanije mogu da ih kontrolišu.
On strahuje i od egzistencijalnih scenarija, poput mogućnosti da AI dramatično ubrza razvoj biološkog oružja, doprinese nuklearnom ratu ili drugim katastrofama.
„Sve ove priče zapravo su način da se politička volja koja se izgradila rasprši i preusmjeri, umjesto da se iskoristi da se uradi nešto korisno“, rekao je Kokotadžlo, koji sada vodi organizaciju koja se zalaže za bezbjednost vještačke inteligencije i kaže da je savjetovao Koksona prije njegove ostavke.
„Samo vas molim da ne uradite ono što će nas sve ubiti.“