Ne razgovarajte o svojim pravnim problemima sa Klodom ili ČetGPT-jem

Četbotovi Klod (Claude), ČetGPT (ChatGPT) i Džeminaj (Gemini) mogu biti odlični za pomoć u istraživanju ili izradu tabela, ali ono što je sigurno – nijesu vaš advokat. Štaviše, obraćanje vještačkoj inteligenciji za pravni savjet može vam se obiti o glavu, kao što se dogodilo optuženom za privredni kriminal u Njujorku, koji je pokušao da od federalnih tužilaca sakrije svoju komunikaciju sa Klodom – onu u kojoj je od njega tražio strategiju pravne odbrane.

Čini se očiglednim da se ne treba oslanjati na vještačku inteligenciju za pravne savjete, naročito ako je u pitanju nešto važno, poput slobode ili velike količine novca. Novo je, međutim, to što čak i razgovor o pravnim pitanjima sa omiljenim četbotom može biti rizičan.

U februaru je sudija Okružnog suda SAD Džed S. Rejkof (Jed S. Rakoff), iz Južnog okruga Njujorka, presudio da veliki jezički modeli vještačke inteligencije nijesu advokati i da se svaka komunikacija s njima može koristiti protiv optuženih u krivičnim postupcima, baš kao i bilo koji drugi dokument koji nije zaštićen privilegijom povjerljivosti. Sudija je u odluci naveo da njegova presuda „izgleda odgovara na pitanje koje se prvi put postavlja na nacionalnom nivou“ – što znači da nijedan drugi sud u SAD do tada nije odlučivao o tom pitanju. Njegov zaključak o privilegiji vjerovatno bi se primijenio i na građanske sporove.

Pitanje povjerljivosti pojavilo se u krivičnom predmetu protiv teksaškog biznismena Bredlija Hepnera (Bradley Heppner), bivšeg predsjednika i izvršnog direktora javno kotirane kompanije GWG Holdings, koji je optužen da je investitore prevario za više od 150 miliona dolara. Hepner, koji ima 60 godina, ovog mjeseca je osuđen pred porotom i čeka izricanje kazne. Prijeti mu najviše 20 godina zatvora.

Prema sudskim spisima, nakon što je Hepner prošle godine saznao da je meta federalnih istražitelja, počeo je da traži od Kloda da mu predloži „strategiju odbrane“ koju bi mogao koristiti na sudu protiv krivičnih optužbi.

Kada su agenti FBI-ja kasnije pretresli njegov dom i zaplijenili više elektronskih uređaja, pronašli su 31 sačuvanu kopiju dokumenata i razgovora koje je Hepner vodio sa Klodom o svom krivičnom predmetu. Nakon što su Hepnerovi advokati tvrdili da su ti dokumenti povjerljivi, jer je te razgovore vodio u pripremi za razgovor sa svojim advokatima, vlada ih je izdvojila. Zatim je od Rejkofa zatražila da odluči da li su zaista zaštićeni od uvida vlade, bilo po osnovu advokatsko-klijentske privilegije ili doktrine radnog proizvoda.

Rejkof je 17. februara presudio da nijesu. U nalogu od 12 strana svoju odluku je potkrijepio nizom pravnih argumenata.

Zašto razgovori sa AI nijesu povjerljivi

Prije svega, Rejkof je istakao: „Budući da Klod nije advokat… samo to je dovoljno da se odbace Hepnerove tvrdnje o privilegiji.“

Ne samo to, napisao je Rejkof, već je naveo i da svaka povjerljivost optuženog u krivičnom postupku, poput one sa advokatima, zahtijeva „odnos povjerenja među ljudima“.

„Takav odnos ne postoji, niti može postojati, između korisnika vještačke inteligencije i platforme kao što je Klod“, napisao je Rejkof.

Sudija je zatim ukazao na to da Antropik (Anthropic), matična kompanija Kloda, u uslovima korišćenja Kloda – na koje je Hepner pristao – izričito navodi da zadržava pravo na sve „podatke“, uključujući razgovore korisnika sa Klodom, koji zatim mogu biti predati nadležnim organima „u vezi sa potraživanjima, sporovima ili sudskim postupcima“.

Rejkof je dalje primijetio da je jedini mogući način da Hepnerova komunikacija sa Klodom ostane povjerljiva bio taj da mu je njegov advokat izričito naložio da od Kloda zatraži pravni savjet, pa bi se u tom slučaju moglo tvrditi da je Klod djelovao kao agent advokata. Ali u ovom slučaju Hepner je to uradio na sopstvenu inicijativu, a njegov advokat je za razgovore sa vještačkom inteligencijom saznao tek naknadno.

Osim toga, kada su tužioci tokom postupka pitali Kloda da li korisnicima poput Hepnera može da pruža pravne savjete, odgovorio je: „Nijesam advokat i ne mogu pružati formalne pravne savjete.“ Zatim je preporučio da se obrati licenciranom advokatu.

Rizik za direktore i preduzetnike

Presuda predstavlja „oštro upozorenje“ vlasnicima kompanija koji su možda već koristili velike jezičke modele vještačke inteligencije za različite pravne strategije, ocijenio je njujorški advokat Dejvid Feldmen (David Feldman) na sajtu svoje firme. „Odluka povlači jasnu razliku između ljudskog pravnog savjetnika i digitalnih asistenata“, napisao je, dodajući da je ključna poruka to što bi Hepnerovo korišćenje Kloda sada moglo biti iskorišćeno protiv njega od strane federalnih tužilaca. „Advokati bi trebalo da razmotre mogućnost da upozore svoje klijente da se korišćenje otvorenih AI sistema možda neće smatrati povjerljivom komunikacijom“, napisao je Feldmen.

On je u naknadnom mejlu Forbesu rekao da vjeruje da je riječ o sve većem problemu među direktorima i članovima najvišeg menadžmenta, koji misle da će AI zamijeniti skupe advokate ili da to može da uradi. „Previše vremena provodim čisteći nered nastao ovakvim postupcima“, napisao je. „Sa razvojem vještačke inteligencije, klijenti su još ohrabreniji da pokušaju sami da rješavaju stvari, bez našeg savjeta.“

Nova pravna realnost u eri vještačke inteligencije

Alen Penc (Alan Pentz), konsultant za mala preduzeća koji se posljednjih godina bavi razvojem vještačke inteligencije, rekao je da ga vijest nije iznenadila, s obzirom na to da su, pravno gledano, razgovori sa velikim jezičkim modelima „u potpunosti dostupni“ u sudskom postupku. Drugim riječima, direktori bi trebalo da budu oprezni i da ne dijele osjetljive informacije sa velikim jezičkim modelima kao što su Klod, ČetGPT, Džeminaj ili drugi.

„AI je isto što i Gugl (Google) pretrage, dokumenti i mejlovi“, napisao je Penc u mejlu Forbesu. „Ponašajte se u skladu s tim.“

Presuda je i simbol nove realnosti za kompanije svih veličina, rekao je Samir Blek (Samir Black), osnivač tehnoloških firmi Data Pros Consulting i Forseti Verify iz Džordžije.

„To je novi ugao napada… ovo je u potpunosti u skladu sa novim dobom istraga“, rekao je Blek o zabilježenim AI razgovorima poput Hepnerovih. „Više nije riječ samo o fajlovima na vašem računaru. Riječ je o razgovorima sa vještačkom inteligencijom i četbotovima.“

John Schroyer, Forbes

New AI Warning: Don’t Discuss Your Legal Problems With Claude Or ChatGPT