ČetGPT će omogućiti sadržaj za odrasle, nakon uvođenja verifikacije

ČetGPT (ChatGPT) će kasnije ove godine nuditi sadržaj za odrasle korisnike koji su verifikovani, uključujući i „erotiku“, izjavio je u utorak izvršni direktor OpenAI, Sem Altmen (Sam Altman). Time bi se ublažila ranije uvedena ograničenja za ovaj čet-bot (chatbot), nakon priznanja OpenAI da njihov proizvod nije uspio prepoznati znakove mentalne ili emocionalne uznemirenosti..

Altmen je objavio na mreži X da će, kada OpenAI uvede verifikaciju starosti u decembru, kompanija omogućiti još više sadržaja „poput erotike za verifikovane odrasle osobe“ u ČetGPT-ju, dok prelazi na princip „tretiranja odraslih korisnika kao odraslih“.

OpenAI je u avgustu saopštio da će ograničiti ponašanje ČetGPT-ja nakon što je priznao da čet-bot „nije uspijevao da prepozna znakove zabluda ili emocionalne zavisnosti“, dodavši nove zaštitne mehanizme, poput podsjećanja korisnika da naprave pauze tokom dugih razgovora i izbjegavanja davanja direktnih savjeta, umjesto toga upućujući korisnike na „resurse zasnovane na dokazima kada je to potrebno“.

„Napravili smo ČetGPT prilično restriktivnim kako bismo bili pažljivi u vezi s pitanjima mentalnog zdravlja“, rekao je Altmen u utorak, dodajući da je OpenAI shvatio da je to proizvod učinilo „manje korisnim ili prijatnim za mnoge korisnike“ koji nemaju takve probleme, pa su odlučili da „bezbjedno ublaže“ ranija ograničenja.

Altmen nije precizirao na koji način će OpenAI ublažiti ograničenja za ČetGPT.

Korisnici neće imati pristup erotici osim ako je izričito ne zatraže, rekao je Altmen u drugoj objavi, s tim da će OpenAI i dalje raditi na zaštiti korisnika u „mentalno krhkim stanjima“ i da će koristiti „poboljšane alate za to“, ali da korisnici koji ne spadaju u tu kategoriju treba da imaju „veliki stepen slobode u načinu na koji koriste ČetGPT“.

Altmen je istakao da, ako korisnici žele da ČetGPT odgovara na „veoma ljudski način“ ili da se ponaša kao prijatelj, čet-bot to treba da radi. Takođe, OpenAI je ranije nagovijestio da će ČetGPT uskoro omogućiti sadržaj za odrasle, nakon što budu uspostavljeni „odgovarajući“ mehanizmi za provjeru starosti i kontrole.

Međutim, neke organizacije za mentalno zdravlje i zaštitu djece zahtijevale su da OpenAI uvede dodatna ograničenja za ČetGPT, tvrdeći da se čet-bot sve češće koristi u trenucima emocionalne krize i da bi mogao djecu izložiti seksualno eksplicitnom sadržaju, dok su stručnjaci upozorili da ova tehnologija može predstavljati psihološku prijetnju za mlađe korisnike koji traže emocionalnu podršku.

Istraga o zaštiti djece od štetnih uticaja vještačke inteligencije

Savezna trgovinska komisija (Federal Trade Commission – FTC) objavila je prošlog mjeseca da će pokrenuti istragu protiv kompanija Alfabet (Alphabet), Meta, OpenAI, xAI i drugih, u vezi s tim kako štite djecu i tinejdžere od potencijalno negativnih uticaja svojih čet-botova.

Istraga će se uglavnom fokusirati na to koje su korake te kompanije preduzele da zaštite djecu kada čet-botovi djeluju kao virtuelni saputnici, uključujući načine na koje ograničavaju korišćenje i kako korisnike informišu o mogućim rizicima.

Zvaničnici FTC-a rekli su da čet-botovi mogu „efikasno oponašati ljudske karakteristike“ poput emocija ili namjera, što znači da djeca i tinejdžeri mogu „steći povjerenje i razviti odnose s čet-botovima“.

Najava ove istrage uslijedila je nakon upozorenja senatora Džošua Holija (Josh Hawley) iz Misurija koji je rekao da će pokrenuti istragu protiv Metinog čet-bota, nakon što je Rojters (Reuters) izvijestio da su interne smjernice kompanije Meta označile kao „prihvatljivo“ da njihov čet-bot vodi romantične razgovore s djecom.

Meta je u izjavi za Rojters (Reuters) poručila da će revidirati svoje politike, naglasivši da „takvi razgovori s djecom nikada nijesu smjeli biti dozvoljeni“.

Ty Roush, Forbes

ChatGPT Will Allow ‘Erotica’ After Easing Mental Health Restrictions, Sam Altman Says