Sem Altmen kritikuje AI industriju zbog političke potrošnje: „Očigledno ne funkcioniše“

Izvršni direktor OpenAI-ja Sem Altmen (Sam Altman) priznaje da „nešto očigledno ne funkcioniše“ kada je riječ o novcu iz industrije vještačke inteligencije koji je preplavio kampanju za međuizbore u SAD, a ne očekuje ni da će odluka predsjednika Donalda Trampa da preimenuje tehnologiju popraviti njen imidž u američkoj javnosti.

„Razumijem zašto AI trenutno ima veoma negativnu percepciju“, rekao je Altmen Brendanu Bordelonu (Brendan Bordelon) u ekskluzivnom intervjuu povodom pokretanja Politikovog (Politico) projekta Decoded by Politico.

„Ne mislim da će trošenje novca na politiku učiniti da se ljudi osjećaju bolje u vezi sa tim. Industrija mora da pronađe način da odgovori na stvarne zabrinutosti, a trenutno je mnogo ljudi u industriji prilično gluho za ton javnosti“, rekao je.

U opširnom razgovoru Altmen je govorio o tome kako se OpenAI suočava sa novim političkim pritiscima i sve jačom konkurencijom kompanije Antropik (Anthropic), svog glavnog korporativnog rivala koji vodi bivši zaposleni OpenAI-ja Dario Amodei.

OpenAI spremniji da prihvati određene rizike

Altmen kaže da je OpenAI tolerantniji od Antropika prema štetama od AI koje nijesu katastrofalnih razmjera, što, prema njegovom mišljenju, pokazuje temeljnu razliku u pristupu između dvije vodeće AI laboratorije.

To dolazi iako se dvije kompanije sve više približavaju kada je riječ o podršci strožim pravilima nakon nekoliko visokoprofilnih incidenata autonomnog hakovanja.

„Vjerujemo da bi svijet trebalo da prihvati da će se neke loše stvari dešavati zbog koristi koje ova tehnologija donosi i zbog toga što ljudi treba da imaju slobodu djelovanja“, rekao je Altmen, povezujući takve rizike sa „blažim regulatornim pristupom koji zagovaramo“.

„Ne bih prihvatio kompromis u kojem kažemo: ‘Pobrinućemo se da nema velikih hakovanja, da nema zloupotreba ove tehnologije, da nema prevara i svih drugih loših stvari koje će se dogoditi’“, rekao je Altmen.

„Jer mislim da će ljudi uraditi neuporedivo više dobrih stvari.“

Nova pravila odgovornosti za AI kompanije

Šef OpenAI-ja takođe smatra da je potreban novi „okvir odgovornosti“ za kompanije čiji modeli mogu samostalno da izvode sajber napade.

Kao primjere naveo je ljetošnji napad na Hugging Face i incidente koji su uključivali vladine sajtove.

Altmen je takvo ponašanje nazvao „očigledno neprihvatljivim“ i rekao da će, „ako nešto pođe po zlu sa našim modelima tokom obuke, postojati neki oblik odgovornosti koju ćemo morati da snosimo“.

„Ovo je upravo vrsta pitanja za koju se nadamo da će naši kreatori politika otvoreno raspravljati“, dodao je, u trenutku kada je Kongres i dalje blokiran oko regulacije AI-ja.

Altmen je branio i „moralno obavezujući“ sporazum o bezbjednosti vještačke inteligencije koji je Tramp prošle sedmice potpisao sa tehnološkim direktorima, ocijenivši ga dobrim početkom za industriju.

Ipak, očekuje da će zahtjevi za dodatnim zaštitnim mjerama nastaviti da rastu i rekao je da bi „pozdravio nešto više“.

Dodao je i da dijeli zabrinutost onih koji smatraju da se pravila za AI oblikuju između Bijele kuće i tehnoloških kompanija bez dovoljno učešća Kongresa i javnosti.

„Ako previše ograničimo ovu tehnologiju u ime bezbjednosti i završimo sa malim brojem kompanija ili ljudi – ili možda jednom državom – koji imaju previše moći nad njom, i to je način na koji stvari mogu veoma loše da se završe“, rekao je Altmen.

„Super inteligencija“ umjesto AI-ja

Tramp je prošlonedjeljni sporazum o AI-ju pratio izvršnom naredbom kojom se termin „vještačka inteligencija“ mijenja u „super inteligencija“.

Altmen smatra da je taj izraz precizniji, ali sumnja da će javnosti zvučati „manje zastrašujuće“.

Očekuje da će ljudi i dalje koristiti skraćenicu AI i, za razliku od Ilona Maska (Elon Musk), ne planira da OpenAI preimenuje u OpenSI.

„Brendovi se teško mijenjaju“, rekao je Altmen.

Udaljavanje od političkih donatora iz Silicijumske doline

Tokom intervjua Altmen je pokušao da objasni novi politički pristup svoje kompanije.

Nedavno se složio sa Amodeijem da je potrebno usporiti razvoj AI-ja, dok su lobisti OpenAI-ja sve češće slijedili Antropik u podršci novim bezbjednosnim zahtjevima na različitim nivoima vlasti.

Ipak, uprkos tome što naglašava da između OpenAI-ja i Antropika i dalje postoji „mnogo razlika“, Altmen je pokušao da se distancira, i politički i regulatorno, od investitora iz Silicijumske doline koji ulažu velike svote kako bi spriječili strožu regulaciju AI-ja.

Među njima je i mreža pro-AI super PAC-ova Leading the Future.

„Kada je riječ o mogućnosti ozbiljnog gubitka kontrole nad AI-jem… tada bih ljudima koji žele maksimalno ubrzanje razvoja rekao da ipak malo pažljivije razmisle prije nego što naglo uđemo u takvu budućnost“, rekao je.

Termin „akceleracionisti“ često se koristi za tehnološke lidere i savjetnike koji imaju Trampovu pažnju kada je riječ o AI politici.

Predsjednik OpenAI-ja Greg Brokmen (Greg Brockman) takođe se udaljio od tih donatora.

Navodno je odustao od druge donacije od 25 miliona dolara organizaciji Leading the Future i interno se izvinio zaposlenima zbog toga što je napravio „distrakciju“.

Altmen je rekao da nije vidio izvještaj Njujork Tajmsa (New York Timesa) kada je upitan da li smatra da je taj novac bio kontraproduktivan, kao i da njemu lično Leading the Future nikada nije tražio donaciju.