Zakerberg i Huang odbacuju pozive na usporavanje razvoja AI-ja

Izvršni direktor Mete Mark Zakerberg (Mark Zuckerberg) ocijenio je u utorak da kompanije koje razvijaju vještačku inteligenciju imaju „prirodan podsticaj“ da obezbijede bezbjednost svojih modela kako bi izbjegle „značajnu odgovornost“, dok je izvršni direktor Envidije (Nvidia) Džensen Huang (Jensen Huang) poručio da kompanije mogu istovremeno da teže i bezbjednosti i brzini razvoja.

Njih dvojica su tako iznijeli argumente suprotne ozbiljnijim upozorenjima koja su posljednjih dana stizala iz Antropika (Anthropic) i OpenAI-ja.

U opširnoj objavi na mreži X, Zakerberg je naveo da ljudi neće koristiti AI agente koji „nijesu usklađeni sa njima i ne rade ono što od njih traže“, što kompanijama daje „snažan prirodni podsticaj“ da obezbijede usklađenost sistema sa korisnicima.

Govoreći o pozivima da se uspori razvoj sposobnosti AI sistema, Zakerberg je rekao da su „povjerenje i usklađenost“ najvažnije sposobnosti i da će kompanije koje u tome ne uspiju zaostati.

On je naveo da je Meta odložila objavljivanje novog AI ličnog asistenta Muse za „nekoliko mjeseci“ kako bi obezbijedila njegovu bezbjednost, ali da „nije pozivala sve ostale da urade isto prije nego što bi ga ona objavila“.

Zakerberg je djelovao skeptično prema tvrdnjama da AI kompanije moraju međusobno da koordiniraju kako bi obezbijedile bezbjednost, navodeći da „svaka laboratorija ima odgovornost i podsticaj da se kreće tempom koji je potreban da bezbjedno trenira svoje modele, kao i mogućnost da preduzme sopstvene mjere kako bi to osigurala“.

Ipak, podržao je uključivanje nezavisnih evaluatora i savjetnika, što zagovaraju i Antropik i OpenAI, i naveo da Meta to već radi u više oblasti.

Huang: Izbor između brzine i bezbjednosti je lažan

Izvršni direktor Envidije Džensen Huang takođe se usprotivio usporavanju razvoja, govoreći na godišnjem događaju Dreamforce kompanije Salesforce.

On je rekao da je izbor između bezbjednosti i brzine „lažan“ i da je „apsolutno moguće imati oboje istovremeno“.

„Ne trebaju nam novi zakoni – ne trebaju nam novi propisi“, rekao je Huang.

On se zatim pozvao na tržišne mehanizme, navodeći da kompanije treba same da prilagode tempo razvoja dok ne budu sigurne da objavljuju „nešto što će tržište cijeniti“.

Dan ranije, Huang se javio na poziv predsjednika Donalda Trampa, koji je strahove u vezi sa bezbjednošću AI-ja ranije nazvao „prevarom“, dok je bio uživo na bini tokom All-In samita.

Tramp je tada rekao da oni koji se protive razvoju vještačke inteligencije i izgradnji data centara „idu naruku mnogima koji ne žele da vide da se to dogodi“.

„Nećemo dozvoliti da se to desi“, rekao je Tramp.

Huang mu je odgovorio:

„U pravu ste. Nećemo dozvoliti da se to desi, gospodine.“

Zakerberg odgovorio Antropiku i OpenAI-ju

Zakerbergova objava djelovala je i kao odgovor Antropiku i OpenAI-u i njihove pozive na oprez u vezi sa takozvanim „rekurzivnim samousavršavanjem“, odnosno korišćenjem postojećih AI modela za obuku i izgradnju naprednijih novih sistema.

„Usmjeravanje značajne većine računarskih kapaciteta na služenje ljudima, umjesto na trku ka rekurzivnom samousavršavanju, jedan je od najboljih načina da obezbijedimo bezbjedan razvoj ove tehnologije. Meta je preuzela tu obavezu, a to mogu učiniti i druge laboratorije“, naveo je Zakerberg.

Amodei poziva na više transparentnosti i standarde za industriju

Izvršni direktor Antropika Dario Amodei, koji je tokom vikenda upozorio na rizike po bezbjednost i pozvao vodeće kompanije da namjerno uspore razvoj najnaprednijih AI modela, takođe je govorio tokom glavnog programa Dreamforce događaja.

Na pitanje izvršnog direktora Salesforcea Marka Beniofa (Marc Benioff) da objasni svoj stav, Amodei je upotrijebio analogiju sa automobilskom kompanijom čiji je konkurent imao bezbjednosni incident.

„Veoma je primamljivo napasti konkurenta i reći: ‘Ovi momci nijesu bezbjedni, mi jesmo’, ali mislim da je odgovorniji način da se na to reaguje da kažete: ‘Prije svega, hajde da pogledamo sopstveni učinak.’ Možda nijesmo imali ovakav veliki, javno eksponirani incident, ali sigurno nijesmo savršeni“, rekao je Amodei.

Dodao je da je to prilika da se industrija „ponovo obaveže na transparentnost, više investira u bezbjednost“ i da organizuje širi sektor kako bi se postavili zajednički standardi.

Siladitya Ray, Forbes

Mark Zuckerberg And Jensen Huang Push Back On AI Slowdown Calls