Bogati strahuju od AI apokalipse, ali stručnjaci upozoravaju: Vještačka inteligencija već ugrožava siromašne
Pozivi na promjene propisa i upozorenja da bi vještačka inteligencija mogla da preuzme kontrolu nad ključnim sistemima na način koji bi ugrozio opstanak čovječanstva podigli su strah javnosti od AI apokalipse na rekordni nivo. Međutim, stručnjaci upozoravaju da marginalizovane zajednice već trpe posljedice pristrasnosti AI sistema, koji mogu da im uskrate zdravstvenu zaštitu, utiču na dodjelu stanova ili automatizuju odluke o krivičnim kaznama.
Džoj Buolamvini (Joy Buolamwini), osnivačica organizacije Algorithmic Justice League, smatra da je stavljanje „egzistencijalnih prijetnji“ u središte rasprave o rizicima vještačke inteligencije samo po sebi elitističko i da skreće pažnju sa neposredne štete koju AI već nanosi siromašnijim zajednicama.
Istraživanja Buolamvini fokusirana su na ono što naziva „kodiranim pogledom“ (coded gaze) – danas potvrđenu ideju da se pristrasnosti i preferencije kreatora nekog sistema direktno ugrađuju u softver. Budući da su skupovi podataka korišćeni za obuku AI sistema istorijski bili nesrazmjerno zasnovani na podacima o bijelim muškarcima, iste pristrasnosti prenijete su i na same modele.
Studija pod nazivom „Gender Shades“ pokazala je da su veliki sistemi za prepoznavanje lica imali stopu greške manju od jedan odsto kada je riječ o muškarcima svijetle puti, ali između 35 i 47 odsto kod žena tamnije puti. Takvi tehnički propusti doveli su i do neosnovanih hapšenja crnaca širom Sjedinjenih Američkih Država.
Algoritmi koje kompanije za upravljanje nekretninama koriste za procjenu potencijalnih zakupaca takođe su, kako je utvrđeno, odbijali kvalifikovane kandidate sa niskim primanjima bez obrazloženja ili mogućnosti žalbe.
Kompanija SafeRent Solutions, koja se bavi provjerom potencijalnih zakupaca, bila je primorana da postigne nagodbu vrijednu 2,3 miliona dolara nakon što je više od 400 tužilaca tvrdilo da je njen algoritam nesrazmjerno dodjeljivao niže ocjene crnim i latinoameričkim kandidatima, kao i zakupcima koji koriste državne subvencije za stanovanje.
Kad podaci prenesu stare predrasude
Velika studija objavljena u časopisu Science otkrila je da je komercijalni algoritam u zdravstvu davao prednost bijelim pacijentima za dodatnu medicinsku njegu u odnosu na crne pacijente sa jednakim stepenom bolesti.
Razlog je bio to što je sistem prethodnu potrošnju na zdravstvenu zaštitu koristio kao pokazatelj zdravstvenih potreba. Budući da se zbog sistemskih nejednakosti istorijski manje novca trošilo na liječenje crnih pacijenata, algoritam je zaključivao da su oni „zdraviji“.
Algoritamska pristrasnost otkrivena je i kod automatizovanog odabira kandidata za posao i zapošljavanja, prediktivnog rada policije, kao i u procjeni rizika u sistemima zaštite djece.
„AI dobro opisuje svijet kakav je danas, ali ne zna kakav treba da bude“
„AI dobro opisuje svijet kakav je danas, sa svim njegovim pristrasnostima, ali ne zna kakav bi svijet trebalo da bude“, rekla je Džoana Čen (Joanne Chen), partnerka u investicionoj kompaniji za vještačku inteligenciju Foundation Capital, na konferenciji SXSW 2018. godine.
Amazon je odustao od internog AI sistema za zapošljavanje nakon što je otkriveno da je sistematski lošije ocjenjivao prijave koje su sadržale riječ „ženski“, kao i diplomce ženskih koledža.
AI sistem je sam naučio da daje prednost muškim kandidatima jer je bio obučen na deset godina istorijskih podataka o zapošljavanju iz tehnološke industrije, u kojoj tradicionalno dominiraju muškarci.
Širi kontekst
Izvršni direktori vodećih kompanija za vještačku inteligenciju pozivaju na usporavanje razvoja najnaprednijih AI modela kako bi bezbjednosna pravila i zakonodavni okvir mogli da sustignu tehnološki razvoj, nakon niza ozbiljnih upozorenja ljudi iz same industrije.
Evan Hjubinger (Evan Hubinger), koji u Antropiku (Anthropic) vodi istraživanja usklađivanja AI sistema sa ljudskim ciljevima, prošle nedjelje je rekao da, prema njegovoj procjeni, postoji više od 10 odsto vjerovatnoće da bi neusklađena vještačka inteligencija mogla da izazove izumiranje čovječanstva u narednih deset godina.
Džejkob Kokson (Jacob Coxon), bivši istraživač Antropika i OpenAI-ja, rekao je da programeri koji razvijaju ove sisteme „iskreno vjeruju da bi oni mogli da nas sve ubiju do kraja decenije“.
Slična upozorenja iznio je i niz drugih zaposlenih u AI industriji, dok je više od 1.300 zaposlenih u kompanijama koje razvijaju najnaprednije modele podržalo inicijativu „Pacing the Frontier“.
Cilj inicijative je usporavanje razvoja kako bi razumijevanje programera moglo da sustigne mogućnosti softvera koji se kreće ka sposobnosti samostalnog unapređivanja.