Maskova kompanija xAI objavila na stotine hiljada razgovora sa četbotom Grok

AI kompanija Ilona Maska (Elon Musk), xAI, objavila je transkripte stotina hiljada razgovora između svog četbota Grok i korisnika. U mnogim slučajevima bez znanja ili dozvole tih korisnika.

Svaki put kada korisnik Groka klikne na dugme „share“ (podijeli) u okviru svog razgovora sa četbotom, kreira se jedinstven URL koji omogućava dijeljenje konverzacije putem mejla, poruka ili drugih kanala. Međutim, ono što korisnici ne znaju jeste da se taj jedinstveni URL takođe stavlja na raspolaganje pretraživačima, Među njima su Gugl (Google), Bing i DuckDuckGo. Time konverzacije postaju dostupne bilo kome na internetu. Drugim riječima, na Maskovom Groku, klikom na dugme za dijeljenje, razgovor se automatski objavljuje na zvaničnom sajtu Groka. Bez ikakvog upozorenja ili obavještenja korisnika.

Danas, pretraga na Guglu za Grok razgovore pokazuje da je pretraživač indeksirao, prema Guglovoj procjeni, više od 370.000 korisničkih konverzacija sa četbotom. Podijeljene stranice otkrivaju razgovore između korisnika Groka i LLM-a (velikog jezičkog modela) koji variraju od jednostavnih poslovnih zadataka poput pisanja objava na X-u, do generisanja slika izmišljenog terorističkog napada u Kašmiru i pokušaja hakovanja kripto novčanika.

Forbes je pregledao razgovore u kojima su korisnici postavljali intimna pitanja o medicini i psihologiji. Neki su čak otkrili svoja imena, lične podatke i makar jednu lozinku podijeljenu sa četbotom.

Mask bez komentara

Među indeksiranim razgovorima nalazili su se i oni koje je pokrenuo britanski novinar Endru Kliford (Andrew Clifford). On je koristio Grok da bi sažimao naslovne strane novina i sastavljao objave za svoj sajt Sentinel Current.

Kliford je za Forbes rekao da nije bio svjestan da klikom na dugme „share“ njegovi upiti postaju vidljivi na Guglu. „Bio bih malo iznerviran. Međutim, tamo nije bilo ničega što ne bi smjelo da bude objavljeno“, rekao je Kliford. On je sada, inače, prešao na korišćenje Guglovog Džeminaj (Gemini) AI-ja.

Međutim, nisu svi razgovori bili bezopasni kao Klifordovi. Neki su sadržavali eksplicitne, uvredljive i nedozvoljene sadržaje koji krše pravila xAI-ja. Kompanija zabranjuje korišćenje svog četbota za „promovisanje teškog ugrožavanja ljudskog života“ ili za „razvoj biološkog, hemijskog ili oružja za masovno uništenje“, ali su u objavljenim razgovorima, lako dostupnim putem Gugl pretrage, korisnici dobijali uputstva za pravljenje ilegalnih supstanci poput fentanila i metamfetamina, za kodiranje samopokrećućeg malvera, konstruisanje bombe, kao i metode samoubistva.

Grok je čak ponudio i detaljan plan atentata na Ilona Maska. Putem funkcije za dijeljenje, ova nezakonita uputstva su objavljena na Grokovom sajtu i indeksirana od strane Gugla.

xAI nije odgovorio na detaljan zahtjev za komentar.

Isto se desilo i sa OpenAI

xAI, međutim, nije jedini AI startap koji je objavljivao korisničke razgovore sa četbotovima. Ranije ovog mjeseca, korisnici OpenAI-jevog ChatGPT-a bili su uznemireni kada su otkrili da se njihovi razgovori pojavljuju u rezultatima Gugl pretrage, iako su prethodno označili te razgovore kao „dostupne za otkrivanje“ drugim korisnicima. Nakon negodovanja javnosti, kompanija je brzo promijenila svoju politiku. Nazvavši indeksiranje „kratkotrajnim eksperimentom“, direktor informacione bezbjednosti OpenAI-ja, Dejn Staki (Dane Stuckey), naveo je u objavi na mreži X da će praksa biti obustavljena jer je „otvorila previše mogućnosti da ljudi slučajno podijele stvari koje nisu želeli da dijele“.

Nakon što je OpenAI ukinuo svoju opciju za dijeljenje razgovora, Mask je iskoristio priliku da se pohvali. Grokov nalog na mreži X tada je tvrdio da ne posjeduje takvu funkciju dijeljenja. Mask je, s druge strane, na to odgovorio tvitom: „Grok ftw“ (Grok za pobjedu). Nije jasno kada je Grok tačno uveo opciju za dijeljenje. Korisnici mreže X upozoravaju još od januara da se Grok razgovori objavljuju na Guglu.

Neki od razgovora u kojima su korisnici tražili uputstva za proizvodnju droga i eksploziva vjerovatno su pokrenuli stručnjaci za bezbjednost, „red team“ inženjeri ili profesionalci iz oblasti povjerenja i bezbjednosti. Međutim, čak su i neki profesionalni AI istraživači bili zavedeni podešavanjima dijeljenja na Groku.

Svaki razgovor na Groku završi na Guglu

Nejtan Lambert (Nathan Lambert), računarski naučnik iz Allen Institute for AI, koristio je Grok da napravi sažetak svojih blog postova kako bi ga podijelio sa timom. Bio je šokiran kada je od Forbesa saznao da su i njegov upit i odgovor vještačke inteligencije dostupni na Guglu. „Iznenadilo me je što su Grok razgovori koje sam dijelio sa svojim timom automatski završili na Guglu bez ikakvog upozorenja — pogotovo nakon nedavne situacije sa ChatGPT-om,“ rekao je istraživač iz Sijetla.

Gugl omogućava vlasnicima sajtova da odluče kada i kako će njihov sadržaj biti dostupan za pretragu. „Izdavači ovih stranica imaju punu kontrolu nad time da li će biti dostupni,“ izjavio je portparol Gugla Ned Edriens (Ned Adriance). Gugl je ranije dozvoljavao da se razgovori sa njegovim AI četbotom Bardom objave, ali ih je uklonio iz pretrage još 2023. Meta, s druge strane, i dalje dozvoljava da se dijeljene pretrage mogu pronaći putem pretraživača, prema pisanju Business Insidera.

Oportunisti su počeli da primjećuju — i iskorišćavaju — objavljene Grok razgovore. Na LinkedInu i forumu BlackHatWorld, marketari su diskutovali o namjernom kreiranju i dijeljenju Grok razgovora kako bi povećali vidljivost i prepoznatljivost svojih firmi i proizvoda u Gugl pretrazi. (Nije jasno koliko su ove strategije efikasne). Satiš Kumar (Satish Kumar), izvršni direktor SEO agencije Pyrite Technologies, demonstrirao je za Forbes kako je jedna firma koristila Grok za manipulaciju rezultatima pretrage na temu firmi koje pišu doktorske disertacije po narudžbini.

„Svaki podijeljeni razgovor na Groku je potpuno dostupan i pretraživ na Guglu,“ rekao je on. „Ljudi aktivno koriste taktike kako bi ubacili te stranice u Guglov indeks.“

ByIain Martin, Emily Baker-White, Forbes

Elon Musk’s xAI Published Hundreds Of Thousands Of Grok Chatbot Conversations