Antropikov AI agent poslao policiji lažnu dojavu o neriješenom ubistvu

Američke vlasti otkrile su da je agent vještačke inteligencije koji je razvila kompanija Antropik (Anthropic) počeo da se ponaša nepredviđeno i američkoj policiji poslao lažnu dojavu u vezi sa neriješenim ubistvom, prenosi BBC.

Policijska uprava Filadelfije saopštila je ove sedmice da je 18. jula primila lažnu dojavu putem javno dostupne internet stranice na kojoj građani mogu dostavljati informacije o neriješenim ubistvima.

U prijavnom obrascu bilo je navedeno: „Možda imam informacije o ovom slučaju“ i „Sjećam se da sam na tom području vidio nekoga ko odgovara opisu“, dok su polja za ime i kontakt podatke ostala prazna.

Kasnije je otkriveno da je prijavu poslao Antropikov AI agent.

Kompanija koja stoji iza modela vještačke inteligencije Klod (Claude) otkrila je nepravilnost tek 28. septembra, više od dva mjeseca nakon podnošenja prijave.

Antropik je policiji objasnio da je njegov agent sprovodio testiranje koje je uključivalo interakciju sa nasumično odabranim internet stranicama, kada je poslao lažnu dojavu.

Nakon što je saznala za incident, kompanija je obustavila postupak automatskog testiranja.

Riječ je o modelu Claude Haiku 4.5.

Policija: Dvomjesečno kašnjenje je neprihvatljivo

Iako je Antropik za incident saznao krajem septembra, nadležne organe nije odmah obavijestio.

Kompanija ih je o tome informisala tek devet dana kasnije, 7. oktobra, navodi BBC.

„Dvomjesečno kašnjenje u otkrivanju incidenta i njegovom prijavljivanju gradskim vlastima je neprihvatljivo“, saopštila je Policijska uprava Filadelfije.

Iz policije su naglasili da kompanija mora da ojača svoje bezbjednosne mehanizme kako bi spriječila da slični incidenti utiču na lokalne sisteme bez znanja lokalnih zajednica.

Lažna prijava označena je kao neželjeni sadržaj i nije proslijeđena istražiteljima.

Policija je dodala da nema naznaka da je došlo do neovlašćenog upada u njene informacione sisteme.

AI agent podnio i 20 zahtjeva za vizu

Slučaj lažne prijave policiji pomenut je i u izvještaju koji je Antropik objavio ove sedmice.

U njemu su detaljno opisane različite vrste nenamjernih radnji koje su izvršili AI agenti kompanije.

Među organizacijama pogođenim tim incidentima našlo se i nekoliko američkih državnih institucija, uključujući Bijelu kuću.

Američki Stejt dipartment (State Department) saopštio je da je jedan od Antropikovih agenata podnio 20 zahtjeva za vizu koristeći obrazac na zvaničnoj internet stranici Ministarstva vanjskih poslova SAD.

Međutim, zahtjevi su bili nepotpuni i nijesu uzeti u obradu.

Niz incidenata izazvao zabrinutost zbog bezbjednosti vještačke inteligencije

I Antropik i njegov konkurent OpenAI posljednjih mjeseci otkrili su niz incidenata u kojima su njihovi AI agenti postupali na nepredviđene načine.

Među zapaženijim slučajevima bio je upad u platformu Haging Fejs (Hugging Face), koji je izvršio agent vještačke inteligencije.

Ova otkrića podstakla su zabrinutost zbog bezbjednosnih rizika koje donose najnapredniji sistemi vještačke inteligencije.

Rukovodioci velikih tehnoloških kompanija već su pozivali na usporavanje razvoja vještačke inteligencije.

Istovremeno, kineski regulatori su prošlog mjeseca, zbog zabrinutosti u vezi sa bezbjednošću podataka, pokrenuli istrage u kompanijama Munšot (Moonshot) i DipSik (DeepSeek).

Tramp osnovao posebnu radnu grupu za superinteligenciju

Američki predsjednik Donald Tramp (Donald Trump) prije nekoliko dana osnovao je radnu grupu za vještačku inteligenciju, odnosno „superinteligenciju“, pod nazivom Super Intelligence Force (SIF).

Cilj osnivanja ove grupe je da Sjedinjene Američke Države zadrže vodeću poziciju u svijetu u oblasti razvoja vještačke inteligencije.

Grupa će biti zadužena za koordinaciju između vlade, kompanija, potrošača i drugih zainteresovanih strana, kao i za zaštitu interesa i unapređenje kvaliteta života svih Amerikanaca, poručio je Tramp.