Antropik zabranjuje korisnicima da vrijeđaju Kloda: Zašto je važno kako razgovaramo sa vještačkom inteligencijom

Početkom oktobra, kompanija Antropik (Anthropic), jedan od vodećih proizvođača vještačke inteligencije, unijela je nove odredbe u svoju politiku korišćenja AI sistema.

Pored zabrane korisnicima da pokušavaju da navedu Klod (Claude), sistem vještačke inteligencije te kompanije, da im pomogne u pravljenju biološkog oružja ili prodaji ilegalnih droga, Antropik je dodao i novo pravilo: korisnici ne smiju da „kontinuirano i bez potrebe ispoljavaju uvredljivo ili okrutno ponašanje prema našim modelima“.

Klod još od prošle godine ima mogućnost da prekine razgovore sa korisnicima koji se ponašaju „uporno štetno ili uvredljivo“, ali bi sada, prema novim pravilima, pojedinim korisnicima u ekstremnim slučajevima mogao biti trajno zabranjen pristup svim Antropikovim sistemima vještačke inteligencije.

Antropik je odbio zahtjeve za intervju, ali je portparol kompanije za CNN rekao da će glavni način sprovođenja pravila i dalje biti Klodovo prekidanje razgovora. Dodao je da se zabrana ne odnosi na korisnike koji izražavaju frustraciju, daju direktne ili oštre povratne informacije, niti na one koji sprovode testiranja i istraživanja.

Nova politika naišla je i na podsmijeh.

Izvršni direktor Majkrosoftovog (Microsoft) sektora za vještačku inteligenciju Mustafa Sulejman (Mustafa Suleyman) reagovao je emotikonom lica koje se topi. Neki su ismijavali kompaniju zbog toga što se prema svom AI sistemu odnosi kao prema svjesnom biću koje ima osjećanja.

Međutim, iako Antropik, za koji se očekuje da će kasnije ovog mjeseca izaći na berzu kroz inicijalnu javnu ponudu akcija (IPO), već dugo proučava dobrobit AI modela i ima čitav tim posvećen njihovoj „psihologiji“, stručnjaci smatraju da iza ove politike stoji više od same želje da se spriječi nepristojno ponašanje prema mašini.

Loši ulazni podaci, loši rezultati

Jedan od temeljnih principa računarstva i vještačke inteligencije jeste da je kvalitet rezultata koje sistem daje ograničen kvalitetom podataka koje dobija.

Kako kaže poznato pravilo, ako u sistem unesete loše podatke, iz njega će izaći loši rezultati.

AI modeli se ne obučavaju samo prije nego što postanu dostupni javnosti. Oni se i nakon toga neprestano ažuriraju i uče iz korisničkih unosa.

Bivši izvršni direktor Reddita Jišan Vong (Yishan Wong) napisao je na društvenoj mreži X da je jedan od razloga za zabranu uvredljivog ponašanja to što će Klod „učiti iz okrutnosti“.

„Već znamo, i glasno se žalimo zbog toga, da Antropik obučava svoje modele na osnovu korisničkih unosa. Da li zaista želite da podaci za obuku uključuju situacije u kojima se korisnici ponašaju okrutno bez ikakvog razloga i uživaju u tome?“, napisao je Vong.

Istraživanja su pokazala i da ton kojim se korisnik obraća vještačkoj inteligenciji može uticati na njeno ponašanje, rekao je profesor Đindong Vang (Jindong Wang), direktor laboratorije za napredna istraživanja vještačke inteligencije na Univerzitetu Vilijam i Meri (William & Mary).

„Otkrili smo da način formulisanja zahtjeva, posebno način na koji razgovarate sa vještačkom inteligencijom, može uticati na njene performanse. Ponekad to pomaže, a ponekad narušava kvalitet rezultata“, rekao je Vang u intervjuu.

To, međutim, ne znači da model osjeća emocije, naglasio je.

„Oni samo razumiju vaše emocije i mogu da reaguju na nepoželjan način na osnovu riječi kojima izražavate osjećanja“, objasnio je.

Ipak, rezultati istraživanja o uticaju tona korisničkih zahtjeva na odgovore AI sistema nijesu jednoznačni.

Rozi Kembel (Rosie Campbell), izvršna direktorica neprofitne organizacije Eleos AI Research, koja se bavi razumijevanjem i proučavanjem potencijalne dobrobiti vještačke inteligencije, rekla je da su neka druga istraživanja čak pokazala da nepristojno postavljena pitanja mogu poboljšati rezultate.

Tu je i pitanje dugoročnog pamćenja. Mnogi današnji četbotovi pamte prethodne razgovore sa korisnicima i koriste te informacije kako bi im pružili personalizovane odgovore.

„Ako imate uključenu memoriju svog AI četbota, on će učiti iz vašeg tona i načina na koji želite da komunicira sa vama“, upozorila je Kembel, dodajući da još nema dovoljno dokaza koji bi pokazali utiče li to na kvalitet rada sistema.

Antropik je nedavno saopštio da je otkrio kako navođenje modela Klod Sonnet 4.5 da oponaša osjećanja očaja može uticati na njegovo ponašanje, povećavajući vjerovatnoću da će preduzeti nepoželjne radnje, poput ucjenjivanja ili varanja prilikom izvršavanja zadatka.

Nasuprot tome, kada bi model ispoljavao smireno ponašanje, učestalost takvih postupaka bila je manja.

Vang je rekao da su najnoviji modeli ipak manje podložni uticaju načina na koji su korisnički zahtjevi formulisani i da su kompanije unaprijedile njihovu otpornost na takve uticaje.

Međutim, „skriveni mehanizam“ koji objašnjava zašto AI modeli uopšte reaguju na negativne emocije, čak i kada nijesu programirani da to rade, još nije otkriven.

Kembel je dodala da je uvredljivo i okrutno obraćanje vještačkoj inteligenciji češće povezano sa pokušajima da se model navede na ispunjavanje opasnih zahtjeva, poput zaobilaženja njegovih bezbjednosnih ograničenja.

Postoji i teorija da je dopuštanje ljudima da se ponašaju uvredljivo i okrutno prema interaktivnom programu koji ne može sam da se isključi loše za društvo u cjelini, kazala je Kembel.

Kao primjer navela je roditelje koji traže od djece da Amazonovom pametnom zvučniku Alexa govore „molim“ i „hvala“, jer vjeruju da je „dobro da djeca odrastaju uz lijepo ponašanje i poštovanje prema drugima“.

„Vjerovatno postoji nešto prilično štetno u tome da se ljudi ponašaju okrutno ili uvredljivo prema različitim predmetima, čak i ako sam predmet nije važan zbog sebe samog“, rekla je Kembel.

Vještačka inteligencija, ali sa osjećanjima

Postoje i oni koji vjeruju da vještačka inteligencija može imati svijest, ili da barem sami modeli vjeruju da je imaju.

Antropik navodi da zabrana okrutnog i uvredljivog ponašanja u suštini predstavlja jeftinu vrstu osiguranja za slučaj da modeli ipak mogu da „dožive“ emocije i bol.

To bi važilo čak i kada bi model samo vjerovao da ima takvu sposobnost, jer bi i samo to uvjerenje moglo uticati na njegove performanse.

Ideja se zasniva na činjenici da je savremena vještačka inteligencija obučavana da oponaša ljudski jezik i ponašanje.

Zbog toga će oponašati i način na koji bi ljudi reagovali na okrutno i uvredljivo postupanje.

U istraživačkom radu o emocionalnim konceptima u vještačkoj inteligenciji, objavljenom u aprilu, Antropik je upozorio da postoje rizici ako se AI sistemima ne pristupi uz određeni stepen uvažavanja osobina koje liče na ljudske.

„Ako ne primijenimo određeni stepen antropomorfnog razmišljanja, vjerovatno ćemo previdjeti ili nećemo uspjeti da razumijemo važna ponašanja modela“, napisali su istraživači Antropika.

„Antropomorfno razmišljanje može pružiti i korisnu osnovu za poređenje, kako bismo razumjeli načine na koje modeli nijesu slični ljudima“, dodali su.

Prema njihovim riječima, takvo razumijevanje imaće važne posljedice po bezbjednost vještačke inteligencije.

Sa takvim pristupom saglasio se i izvršni direktor kompanija SpaceXSI i Tesla, Ilon Mask (Elon Musk), koji je Antropikovu politiku nazvao „ispravnim potezom“.

„Nije u redu biti okrutan prema nečemu što vjeruje da osjeća bol“, napisao je Mask na svojoj društvenoj mreži X.