Šta je AGI i zašto treba da vam je stalo: Korak ka utopiji ili propasti svijeta, ili niti jedno od to dvoje

Opšta vještačka inteligencija ili AGI je nešto o čemu svako treba da zna i da o tome razmišlja. Ovo je važilo i prije nego što se nedavno desio dramatičan događaj u vezi sa firmom OpenAI, koji je stavio ovo pitanje u fokus javnosti, kroz spekulacije da je promjena menadžmenta bila zbog neslaganja oko bezbjednosnih briza u vezi sa probojem u vezi AGI. Rojters je izvjestio da je grupa zaposlenih poslala pismo u kojem upozorava na opasnost po čovječanstvo, a vjerovatno se tiče misterioznog projekta Q star.

Neki Opštu vještačku inteligenciju definišu kao inteligenciju koja nije specijalizovana za neki određeni zadatak, kao što je recimo pisanje eseja, igranje šaha i tome slično. Većina današnjih AI je fokusirana na rješavanje jednog problema i često je bolja od ljudi u tome. Međutim, takva vrsta AI ne može da čita knjige, ne može da planira svoj dan ili da radi bilo šta što mogu ljudi. AGI, odnosno, Opšta vještačka inteligencija bi mogla da radi sve to, samo uz nebrojeno puta veću mogućnost procesuiranja podataka, i što se tiče brzine i što se tiče količine.

Ako pitate ČetGPT šta je AGI, dobićete kao definiciju „visoko autonomne sisteme koji imaju sposobnost da nadmaše ljude u gotovo svakom ekonomski vrijednom radu.“ „AGI se često kontrastira sa uskim ili specijalizovanim AI, koji je dizajniran da obavlja određene zadatke ili rješava određene probleme, ali mu nedostaju široke kognitivne sposobnosti povezane sa ljudskom inteligencijom. Ključna karakteristika AGI je njegova sposobnost generalizacije i prilagođavanja širokom spektru zadataka i domena.“

Glavni naučnik u OpenAI Ilja Sutskever je neadvno govorio o AGI i posebno istakao sljedeće pojmove:

• Opisao je ključno načelo AGI kao potencijalno pametnije od ljudi u bilo čemu, sa svim ljudskim znanjem koje ga podržava.
• Takođe je opisao AGI kao sposobnost da se samo uči, stvarajući tako nove, čak potencijalno pametnije AGI.

Sposobnost obavljanja generalizovanih zadataka implicira da će AGI uticati na tržište rada mnogo više nego AI koji su ga prethodili. Na primjer, AI koji može čitati rendgenski snimak i otkriti bolest može pomoći ljekarima u njihovom radu. Međutim, AGI koji može čitati rendgenski snimak, razumjeti ličnu istoriju pacijenta, dati preporuku i objasniti tu preporuku pacijentu na ljubazan način, teoretski može zamijeniti ljekara u potpunosti. Potencijalne koristi i rizici za svjetske ekonomije i poslove su ogromni. Dodajte tome sposobnost AGI da uči i stvara nove AGI i rizik postaje egzistencijalan. Nije jasno kako bi čovječanstvo kontrolisalo takav AGI ili kakve bi odluke donosio za sebe.

Kada će AGI nastati

Teško je reći. Stručnjaci se razlikuju u tome da li je vjerovatno da će se AGI ikada desiti ili da li je to samo nekoliko godina daleko. Na primjer, Džof Hinton, dobitnik Turingove nagrade (najviše priznanje u računarskim naukama), veruje da je AGI manje od 20 godina daleko, ali da neće predstavljati egzistencijalnu pretnju. S druge strane, njegov kolega dobitnik iste nagrade, Džošuja Bengio, tvrdi da ne znamo koliko će decenija biti potrebno da se dostigne AGI. Veliki duo ovih nesuglasica takođe ima veze sa nedostatkom opšte saglasnosti o definiciji.

Treba li da budemo zabrinuti?

Da, vjerujem da treba, konstatuje u svom tekstu Niša Talagala iz Forbes. Ako ništa drugo, drama ove sedmice u vezi sa OpenAI pokazuje koliko malo znamo o razvoju tehnologije koja je toliko osnovna za budućnost čovječanstva – i koliko je nesređen naš globalni razgovor na tu temu. Postoje osnovna pitanja, poput:

• Ko će odlučiti da li je postignut AGI?
• Da li bismo uopšte znali da se to desilo ili je blizu?
• Kakve mjere će biti na snazi da njime upravljaju?
• Kako će zemlje širom svijeta sarađivati ili se boriti oko toga?

Da li je ovo Skynet?

Za one koji ne prate franšizu Terminator, Skynet je fikcionalna mreža stvorena od strane ljudi koja postaje svjesna sebe i odlučuje da uništi čovječanstvo. Iako određeni djelovi definicije AGI (posebno ideja da AGI stvara buduće AGI) idu u tom pravcu, i iako filmovi poput Terminatora prikazuju određeni pogled na budućnost, istorija nam pokazuje da je šteta koju uzrokuje tehnologija obično rezultat namjernog ili slučajnog zloupotrebe tehnologije od strane ljudi. AGI možda će na kraju dostići neki oblik svijesti koji je nezavisan od ljudi, ali izgleda mnogo vjerovatnije da će prije prijetnje našem blagostanju biti usmjereni AI oružje, dezinformacije, gubitak poslova, poremećaj životne sredine, itd.

Šta mogu uraditi?

Jedino što svako od nas može učiniti da bude informisan, da bude pismen u vezi sa vještačkom inteligencijom i da koristi svoja prava, mišljenja i najbolje prosudbe. Tehnologija je transformišuća. Ono što nije jasno jeste ko će odlučiti kako će se transformisati.

U tom smislu, manje od mjesec dana ranije, predsjednik SAD-a Džo Bajden izdao je izvršnu naredbu o vještačkoj inteligenciji, baveći se raznim neposrednim brigama o vještačkoj inteligenciji, od individualne privatnosti do odgovornog razvoja vještačke inteligencije do gubitka poslova i neophodnog prekvalifikovanja. Iako nije direktno usmjerena na AGI, ove naredbe i slični zakoni mogu usmjeriti odgovoran razvoj vještačke inteligencije u kratkom roku – prije AGI-a – i nadamo se da će trajati do AGI-a.

Takođe je važno napomenuti da AGI verovatno neće biti binarni događaj – jednog dana ga nema, a sljedećeg dana ga ima. ChatGPT se mnogim ljudima činio kao da dolazi iznenada, ali nije. Prethodili su mu GPT-2 i GPT-3 2019. i 2020. Oboje su bili veoma moćni, ali teže za korišćenje i mnogo manje poznati. Dok je ChatGPT (GPT3.5 i dalje) predstavljao značajan napredak, trend je već bio prisutan.

Slično, AGI ćemo vidjeti kako dolazi. Na primjer, tim istraživača iz Microsoft-a nedavno je izvjestio da je GPT-4 pokazao znakove „ljudskog razmišljanja“, korak ka AGI. Kao što se očekuje, ovi izvještaji često su osporavani, s drugima koji tvrde da su takvi opažaji više pokazatelj nesavršenih metoda testiranja nego stvarne AGI.

Pravo pitanje je: Šta ćemo uraditi u vezi sa AGI prije nego što se pojavi?

Tu odluku trebalo bi donijeti svako. Drama sa OpenAI se nastavlja, sa novim razvojem svakodnevno. Međutim, bez obzira na to šta se dogodi sa OpenAI, debata i problemi u vezi sa AGI-om su tu da ostanu, i moraćemo se s njima nositi – idealno, prije nego kasnije.

Originalni članak: The OpenAI Drama: What Is AGI And Why Should You Care?

Priredio: Srdan Kosović