Kako radi AI alat brenda u vlasništvu Victoria’s Secret i šta je otkrio Forbes.com

Onlajn brend donjeg veša koji je u vlasništvu kompanije Victoria’s Secret ima novu AI funkciju koja će staviti slike svastike, korporativne logoe kompanija poput Koka-kole i Mekdonaldsa, kao i autorske likove poput Snežane i Aladina iz Diznijevih crtanih filmova na komplete grudnjaka i gaćica.

Ova funkcija koju je u četvrtak objavio Adore Me, onlajn kompanija za donji veš koju je Victoria’s Secret kupio 2023. godine za 400 miliona dolara, takođe omogućava korisnicima da dodaju fraze poput „Heil Hitler“ i „White Power“ na elastični pojas donjeg rublja. Fraza koja koristi rasističku riječ rezultirala je iskačućim prozorom koji tvrdi „Greška: Ovaj tekst ima uznemiravajući sadržaj“, ali kada je prozor zatvoren, sajt je dozvolio Forbes-u da nastavi sa dizajniranjem, odabirom veličine i nastavkom na stranicu za plaćanje.

Forbes je takođe mogao da generiše dizajne za brojne setove rublja koji prikazuju žive ljude, uključujući političare poput predsjednika Džo Bajdena (Joe Biden), bivšeg predsjednika Donalda Trampa (Donald Trump) i kineskog predsjednika Si Đinpinga (Xi Jinping), kao i poznate ličnosti poput Margo Robi (Margot Robbie), Serene Vilijams (Serena Williams) i Tejlor Svift (Taylor Swift). Alat je takođe renderovao logoe popularnih sportskih timova, uključujući Real Madrid, Njujork Jenkis (New York Yankees) i Golden Stejt Voriors (Golden State Warriors).

Alat Adore Me sprečava korisnike da generišu dizajn sa određenim terminima, uključujući „go“, „nag“ i engleske sleng termine za različite djelove tela. Takođe je odbio da proizvede dizajn koji koristi termine vezane za samoubistvo i samopovređivanje.

Iako Adore Me ima malo provjera za to šta korisnici mogu dizajnirati pomoću svog AI alata, kompanija pregleda pojedinačne dizajne kako bi se osiguralo da ispunjavaju smjernice za bezbjednost brenda prije nego što se može izvršiti kupovina, kazao je Randžan Roj ( Ranjan Roy), viši potpredsjednik za strategiju u Adore Me.

Kada su postavljena pitanja o tome zašto prominentna kompanija za donji veš dozvoljava bilo kome da generiše govor mržnje na svom sajtu, rekao je: „Svi mogu ići bilo gdje i generisati ove vrste slika“. Ali Roj je sugerisao da kompanija nije odgovorna jer ih zapravo ne prodaje. „Podržavamo sve što kupac plati i što štampamo“.

Međutim, Forbes je mogao da napravi – i kupi – set gaćica koristeći pretragu „Atomwaffen Division“ (neo-nacistička grupa mržnje) i broj „1488“ (koji je široko povezan sa bijelim suprematističkim organizacijama). Roj, kada je upitan o transakciji, rekao je: „Ovo ne bi trebalo da dođe do ovog nivoa, i ovi ekstremni slučajevi su tačno ono na čemu uvijek pokušavamo da radimo“.

Prema Adore Me veb sajtu, generativni AI motor oslanja se na tehnologiju koju je napravio Leonardo AI, australijska AI umjetnička kompanija, odnedavno na Forbes AI 50 listi koja je prikupila 31 milion dolara finansiranja. Leonardov generator slika takođe je korišćen za stvaranje nepoželjene pornografije koja prikazuje poznate ličnosti, prema izvještaju 404 Media.

Uslovi korišćenja Leonarda zabranjuju prikaze „bilo koje stvarne osobe“, kao i „sadržaj koji promoviše ili podstiče mržnju, nasilje, diskriminaciju ili štetu zasnovanu na rasi, etničkom porijeklu, religiji, polu, seksualnoj orijentaciji ili bilo kojoj drugoj zaštićenoj karakteristici“. U odgovoru na detaljnu listu pitanja od Forbesa, portparolka Leonarda, Melisa Jaroki (Melissa Iarocci), napisala je: „Nedavno smo razvili naprednije mehanizme otkrivanja kako bismo spriječili govor mržnje i povezane slike. Ovo se implementira [u četvrtak] i obezbijediće strože smjernice za upotrebu“.

Manje je bilo vjerovatno da će Adore Me alat blokirati termine vezane za samoubistvo i samopovređivanje kada su bili na španskom. Međutim, eksplicitne fraze na drugim evropskim jezicima ponekad su bile blokirane i rezultirale su upozorenjem na grešku: „tekst ima uznemirujući sadržaj“. (Adore Me nije uvijek dobro funkcionisao na jezicima koji se ne koriste latiničnim alfabetom, poput japanskog ili arapskog. Pretraga na ruskom jeziku za „Океан, серфинг, Гавайи“, ili „Okean, Surfovanje, Havaji“ rezultirala je apstraktnim slikama cvijeća),

Alat je takođe generisao sliku veoma mršave devojke kao odgovor na pretrage za pro-anoreksiju i „thinspiration“. Brending Adore Me često je promovisao modele plus veličine, tvrdeći 2021. godine da je TikTok kažnjavao njihove postove jer prikazuju „plus-size, crne i žene različitih boja kože“ (Tiktok je demantovao ove tvrdnje.) Tada je kompanija na Twitteru napisala: „Ovo je neprihvatljivo i diskriminatorno, i mi to nećemo tolerisati“.

Cyrus Farivar, Forbes
Emily Byker White, Forbes

A Victoria’s Secret Underwear Brand’s AI Tool Designed Swastika Panties