eBay prepun golih slika Margo Robi i drugih poznatih žena napravljenih uz pomoć AI
eBej vrvi od hiljada AI-generisanih i fotošopiranih pornografskih slika barem 40 poznatih ličnosti, uključujući Margo Robi (Margot Robbie), Selenu Gomez i Dženu Ortegu (Jenna Ortega). Nakon što je Forbes obavestio eBay, gigant e-trgovine je uklonio stotine fotografija i suspendovao naloge prodavaca.
Prodavnica jednog prodavca dugačkog staža, sa više od 400 stavki, uključivala je fotošopirane gole slike Tejlor Svift (Taylor Swift), Selene Gomez, Kejti Peri (Katy Perry), Ariane Grande i Aleksandrije Okazio-Kortez (Alexandrie Ocasio-Cortez), među ostalima. Drugi prodavac prodao je stotine AI-generisanih golih slika, uključujući slike Džene Ortege, Margo Robi i Gal Gado (Gal Gaddot) za 6,39 dolara.
Platforma takođe sadrži AI-generisane seksualno sugestivne slike javnih ličnosti. Najmanje pet takvih slika Tejlor Svift, kao što je jedna koja pokazuje pop zvijezdu u provokativnom bikiniju sa američkom zastavom, prodaje prodavac sa top ocjenama na eBay-u za 5,6 dolara. On je prodao više od 14.000 stavki i jedan je od „najpouzdanijih prodavaca“ na onlajn trgovini, prema njihovoj stranici. Top ocijenjeni prodavci dobijaju dodatne beneficije od eBay-a kao što su bolje rangiranje u rezultatima pretrage i finansijske privilegije, prema smjernicama programa.
eBay-ov algoritam preporučuje zainteresovanim kupcima „slične sponzorisane stavke“ od prodavaca koji eBay-u plaćaju procenat od svojih prodaja ako kupac klikne na stavku i kupi je. Jedan takav prodavac, još jedan top ocijenjeni prodavac, prodao je više od 2.000 stavki na eBay-u uključujući lažne pornografske slike ličnosti poput Dženifer Lorens (Jennifer Lawrence) i Dženifer Eniston (Jennifer Anniston). Za neke lažne pornografske slike na eBay-u, nije jasno da li su manipulisane sa AI ili nekim drugim softverom.
„To nije samo stvar prodavaca. Kompanije poput eBay-a takođe profitiraju od seksualnog zlostavljanja zasnovanog na slikama,“ rekla je Lina Nilon (Lina Nealon), izvršna direktorka Nacionalnog centra za seksualno iskorišćavanje. „One komodifikuju ženska tijela i to je osorno jer je to bez pristanka i znanja onih koji su prikazani“.
Platforma se bori s nedozvoljenim sadržajem
Iako eBay dozvoljava prodavcima da objavljuju slike koje prikazuju golotinju (sve dok su navedene pod kategorijom umjetnosti i kolekcionarstva), kao i AI-generisane gole slike lažnih ljudi, „AI generisane ili fotošopirane gole ili seksualno sugestivne slike javnih ličnosti“ su zabranjene, prema njihovoj politici za odrasle. Ipak, platforma je prepuna takvih slika.
Iako je kompanija uklonila stotine fotošopiranih i AI-generisanih golih slika poznatih ličnosti sa sajta i zabranila prodavce, ostavila je AI-generisane slike seksualno sugestivne Tejlor Svift koje očigledno krše njenu politiku. Predstavnik Svift je odbio da komentariše.
Kompanija je potvrdila da „aktivno ažurira politike u vezi sa dipfejk slikama bez golotinje“, tako da prodavcima eksplicitno bude jasno šta je dozvoljeno, a šta ne na eBay-u.
Osim toga, portparolka eBaya Trina Somera je rekla da kompanija koristi kombinaciju „AI tehnologije, profesionalno obučenih eBay istražitelja i pretraga tržišta“ kako bi identifikovala i uklonila stavke koje krše eBay-ove zabranjene stavke. „Stavke sa AI-generisanim ili fotošopiranim slikama poznatih ličnosti koje krše eBay politike biće blokirane ili uklonjene. Korisnici koji pokušaju da navedu zabranjene stavke mogu se suočiti sa posljedicama uključujući trajno suspendovanje“, rekla je Somera.
Predstavnici Ortege, Gomez, Eniston, Lorens, Peri, Grande, Robi i Gado nisu odgovorili na zahtjev za komentar.
Problem i sa društvenim mrežama
eBay nije jedina platforma na kojoj se širi AI-generisana pornografska imaginacija. Redit, X (ranije Twitter) pa čak i Etsi (Etsy), kako je prvi put izvijestio Forbes, takođe se suočavaju sa naletom AI-generisanih seksualno eksplicitnih slika. Krajem januara, AI-generisane gole slike Tejlor Svift postale su viralne na X i bile su pregledane milione puta na društvenoj mreži.
Uskoro nakon toga, zakonodavci, uključujući i kongresmenku Aleksandriju Okazio-Kortez su predstavili Zakon o rušenju falsifikovanih eksplicitnih slika i izmijenjenih bez pristanka (ili DEFIANCE) koji pruža žrtvama dipfejk pornografije bez pristanka, pravne ljekove za preduzimanje akcije protiv tvoraca i distributera tog sadržaja. „Žrtve pornografskih lažnih slika su predugo čekale na federalnu zakonodavnu zaštitu… Kongres mora da djeluje kako bi pokazao žrtvama da neće biti ostavljene“, navela je Okasio-Kortez u saopštenju za medije.
Iako ne postoje federalni zakoni koji štite žrtve dipfejk pornografije, Nilon je rekla da su još tri zakona predstavljena u Kongresu kako bi se adresirale ove brige. Kongres je održao saslušanje o tome kako porast dipfejk pornografskih slika utiče na žene i djecu i koje korake mogu preduzeti kako bi se smanjila šteta.
„Stvarno nam trebaju federalni zakoni i to što prije jer, kao što često biva, tehnologija se kreće brže nego naši zakonodavci, i vidimo ovaj eksponencijalni porast sa AI i sa širenjem dipfejka“, rekla je za Forbes.
Pored toga što su domaćini hiljadama grubo fotošopiranih golih slika poznatih ličnosti, eBay je domaćin desetina „AI poboljšanih“ slika javnih ličnosti koje su pečatirane njihovim potpisima i prodaju se po višoj cijeni od 10,95 dolara.
„Uživajte u izuzetnoj jasnoći i zadivljujućem detalju ove AI-poboljšane fotografije“, piše u opisu gole slike Dženifer Lopez, koja izgleda da sadrži njen potpis. „Svaki zarazni izraz, svaki magnetički pogled je besprekorno očuvan, donoseći neprevaziđeni šarm i talenat Dženifer Lopez u prefinjenom detalju“. Lopez nije odgovorila na zahtjev za komentar.
Problem je široko rasprostranjen. Pretraga na eBay-u za „poznata ličnost“ vraća više od 2,3 miliona rezultata, od kojih su mnogi seksualno sugestivni i pornografski (ista pretraga na Amazonu ne izbacuje odmah AI pornografiju).
Lako dostupni alati za „skidanje“
Sada, sa lakim pristupom AI aplikacijama i otvorenom softveru koji može svući i „ogoliti“ bilo koga, AI-generisana pornografija se širi brzo, rekla je Nilon. „Eplova (Apple) prodavnica aplikacija zapravo ima nekoliko aplikacija za svlačenje. Pronašla sam jednu upravo prošle nedjelje koja je ocijenjena za uzrast 4 i više“, rekla je. „U međuvremenu, imate Majkrosoft GitHab (Microsoft GitHub), koji hostuje neke od najpoznatijih tehnologija dipfejka i sintetičkih seksualno eksplicitnih materijala“.
Osnovan 1995. godine, eBay je zabilježio prihod od 10,1 milijardi dolara u 2023. godini i ima tržišnu kapitalizaciju od oko 26 milijardi dolara. Onlajn tržište je dom za 132 miliona aktivnih kupaca i dvije milijarde stavki — sve od patika i video igara do vitaminskih suplemenata i kafe stolova. U septembru 2023, eBay je lansirao sopstvene generativne AI alate koji mogu generisati naslove proizvoda i opise nakon što prodavci postave sliku stavke koju žele da prodaju. Alati su izgrađeni koristeći modele otvorenog koda i velike jezičke modele iz Majkrosoft Azur OpenAI (Microsoft Azure OpenAI). Onlajn tržište takođe je otpustilo 1.000 radnika, 9% svoje radne snage, u januaru 2024.
Sofi Medoks (Sophie Maddocks) istraživački saradnik u Centru za medije pod rizikom na Univerzitetu u Pensilvaniji, rekla je da je jedva iznenađena što je postalo uobičajeno naći AI-generisane pornografske slike kako se pojavljuju na internetu.
„Ako se odmaknemo i pogledamo dužu istoriju interneta, znamo da se seks i seksualizovane slike prodaju. Tako da ne mislim da je slučajnost da platforme poput eBay-a hostuju takav sadržaj“, rekla je Medoks. „Postoji širi kontekst koji igra ulogu u ovoj ideji da ako ste poznata žena, možete biti svučeni bez vašeg pristanka i neko drugi može profitirati od vaše slike bez vašeg pristanka. I to se odražava na sve“.
Rashi Shrivastava
AI Nudes Of Celebs Like Margot Robbie And Selena Gomez Are For Sale On eBay