Želite video kako ljubite poznatu ličnost? Tu su AI aplikacije koje će vam ostvariti san, ali…

Reklame za aplikacije koje koriste vještačku inteligenciju (AI) za kreiranje lažnih video-snimaka ljudi koji se ljube s bilo kim koga požele, preplavile su društvene mreže poput TikToka i Instagrama.

Meta i TikTok su objavili na hiljade reklama za aplikacije koje koriste AI za generisanje lažnih video-snimaka ljubljenja. Omogućavajući korisnicima da učitaju fotografije bilo koje dvije osobe. Nakon toga AI kreira video na kom se te osobe ljube. Ove aplikacije reklamiraju se kao alati koji omogućavaju da „poljubite bilo koga koga želite“. Bez potrebnog pristanka.

Slično konceptu aplikacija poput “AI nudifier” koje proizvode dipfejk snimke pornografskog sadržaja bez pristanka, ove AI aplikacije za ljubljenje kreiraju uvjerljive video-snimke ljudi u situacijama koje se nikada nisu dogodile. Lakoća s kojom se to postiže izaziva zabrinutost zbog normalizacije upotrebe lažnih slika.

Iako reklame nisu seksualno eksplicitne poput poplave AI-generisanog pornografskog sadržaja na platformama kao što su Instagram, Redit i Jutjub (YouTube), mogu biti jednako opasne, smatra Hejli Meknamara (Haley McNamara), direktorka Nacionalnog centra za seksualnu eksploataciju.

„Ne mora biti eksplicitno da bi bilo eksploatativno“, rekla je Meknamara za Forbes. „Ako prelazi granice da oflajn uradi nešto nekome bez njihovog pristanka, poput ljubljenja, svlačenja, onda takođe prelazi granice kada se to radi onlajn“.

Koliko je problem veliki

Meta je prikazala više od 2.500 reklama za AI aplikacije za ljubljenje na Instagramu i Fejsbuku (Facebook), prema pregledu Forbesa. Oko 1.000 tih reklama trenutno je aktivno. TikTok je prikazao oko 1.000 reklama milionima korisnika u evropskim zemljama, prema njihovoj biblioteci reklama. (TikTok biblioteka reklama ne uključuje one prikazane korisnicima u SAD-u). Većina tih reklama prikazuje poznate ličnosti poput Skarlet Johanson (Scarlett Johansson), Eme Votson (Emma Watson) i Gal Gado (Gal Gadot) kako se ljube međusobno. Ostale prikazuju slučajne ljude i promovišu ideju da AI može omogućiti da „poljubite bivšeg“ ili „poljubite simpatiju“. Nije jasno da li su ljudi u video-snimcima stvarni ili generisani uz pomoć AI tehnologije. Johanson, Votson i Gado nisu odgovorile na zahtjev za komentar. Futurism je prvi izvijestio o širenju ovih oglasa po društvenim mrežama.

Meta takođe promoviše aplikacije za „AI zagrljaje (AI hugging)“. Reklame prikazuju video-snimke djece koja grle crtane likove poput Dore Istraživačice, Miki Mausa i Toma i Džerija. Neke reklame, poput video-snimka na kom mlada devojčica grli starijeg muškarca, obećavaju roditeljima da AI aplikacije mogu omogućiti njihovoj djeci da „zagrle bake i deke koje nikada nisu upoznali“. Meta je prikazala oko 1.200 reklama za AI zagrljaje, od kojih je više od 300 i dalje aktivno.

Koje poznate ličnosti su već bile na meti

AI-generisani video-snimci ljubljenja i grljenja već kruže društvenim mrežama. Video na kom Tejlor Svift (Taylor Swift) grli lidera Sjeverne Koreje Kim Džong Una (Kim Jong Un) ima oko 30 miliona pregleda na Instagramu. Krajem decembra, viralni video sa lažnim sadržajem prikazivao je Ilona Maska (Elon Musk) i italijansku premijerku Đorđu Meloni (Giorgia Meloni) kako se ljube.

Portparol Mete, Daniel Roberts, rekao je za Forbes da ove reklame za „AI ljubljenje“ ne krše politiku kompanije. Iako su golotinja, seksualno eksplicitan i sugestivan sadržaj zabranjeni Metinim standardima za oglašavanje, kao i reklame koje „prikazuju, zagovaraju ili koordinišu seksualne radnje bez pristanka“, video-snimci ljubljenja i grljenja su dozvoljeni.

Nakon što ih je Forbes kontaktirao, TikTok je uklonio reklame jer su kršile njihove politike. Platforma za dijeljenje video-snimaka zahtijeva od oglašivača da dobiju pristanak javnih ili privatnih ličnosti prikazanih u njihovim reklamama. Čak i ako su reklame generisane uz pomoć AI, izjavila je portparolka TikToka, Arian de Seliers (Ariane de Selliers).

Veliki broj preuzimanja

Kompanije koje stoje iza ovih generatora video-snimaka, prema njihovim sajtovima, nalaze se van SAD. U zemljama poput Ujedinjenih Arapskih Emirata, Italije i Kine. Aplikacije su besplatno dostupne na Eplovoj (Apple) prodavnici aplikacija i Google Play prodavnici. I već imaju milione preuzimanja. Funkcija „AI ljubljenja“ dio je šireg paketa mogućnosti za uređivanje fotografija koje uključuju i „podmlađivanje“ starih slika, pretvaranje statičnih slika u video-snimke i predviđanje izgleda buduće djece određenih parova. Epl i Gugl (Google) nisu odgovorili na zahtjeve za komentar.

Širenje AI aplikacija za ljubljenje, podstaknuto viralnošću na društvenim mrežama, ukazuje na uznemirujuću normalizaciju dipfejka u eri generativne AI. Korišćenje ovih naizgled bezazlenih aplikacija moglo bi otvoriti vrata alatima koji kreiraju grafičke sadržaje poput lažnjaka sa pornografskim sadržajem i drugih oblika seksualnog zlostavljanja zasnovanih na slikama, rekla je Meknamara.

„Ovaj trend normalizuje eksploatativne duboke lažnjake i tretira učešće bez pristanka u intimnim ili seksualizovanim slikama kao šalu“, rekla je ona. „Lako je trivijalizovati to kada se misli na druge ljude, ali ako zamislite da neko iz vaše okoline pravi takve slike o vama, svako može prepoznati da je to kršenje prava“.

Kako zaštititi djecu

Ovo je posebno zabrinjavajuće s obzirom na to da je ilegalan AI-generisan materijal seksualnog zlostavljanja djece (CSAM) u neviđenom porastu. U posljednje dvije godine, Nacionalni centar za nestalu i eksploatisanu djecu (NCMEC) primio je više od 7.000 prijava materijala za eksploataciju djece povezanih sa generativnom AI tehnologijom. U jednom slučaju, pedofil je navodno snimao djecu u Diznilendu i koristio popularni AI alat Stable Diffusion za proizvodnju hiljada ilegalnih slika.

Ljudi koji su naišli na reklame za AI ljubljenje tokom pretraživanja društvenih mreža kažu da ih smatraju uznemirujućim. U decembru, Alis Siregar (Alice Siregar), analitičarka vještačke inteligencije u firmi za tehnološko savjetovanje, primijetila je rast broja takvih reklama na TikToku. Bila je užasnuta time što se tehnologija koristi na „duboko neetičan“ način.

„Bilo je nevjerovatno jezivo susresti se s time“, rekla je.

Rashi Shrivastava, Forbes

AI Kissing Apps Are Taking Deepfakes Mainstream