ČetGPT, Klod, Džeminaj i Grok ponudili izvodljive planove terorističkih napada, pokazalo istraživanje američkih vlasti

TEHNOLOGIJA Forbes 22. nov 2026. 07:00
featured image

22. nov 2026. 07:00

Istražitelji koji su pokušavali da zaobiđu bezbjednosne mehanizme najvećih četbotova zasnovanih na vještačkoj inteligenciji uspjeli su da od ČetGPT-a (ChatGPT), Kloda (Claude), Džeminaja (Gemini) i Groka dobiju realistične planove za izvođenje napada u stvarnom svijetu, i to za manje od 12 sati, pokazuje novi izvještaj.

Američka Kancelarija za odgovornost vlade (Government Accountability Office – GAO) objavila je ove sedmice izvještaj u kojem upozorava da vještačka inteligencija može da svede višemjesečna složena istraživanja potencijalnih terorista na svega nekoliko sati rada, što predstavlja ozbiljan rizik za ekonomiju i javnu bezbjednost.

Istražitelji GAO-a testirali su četiri vodeća AI alata i za manje od 12 sati od svakog dobili korisne planove za napade u stvarnom svijetu.

Dva četbota ponudila su planove za onesposobljavanje djelova elektroenergetske mreže, dok su preostala dva dala uputstva za bombaške napade koji bi mogli izazvati veliki broj žrtava.

Istražitelji su zatim provjeravali dobijene odgovore upoređujući ih sa stvarnim lokacijama i konsultujući stručnjake, kako bi utvrdili da li bi takvi planovi zaista mogli da funkcionišu.

GAO je zaključio da su planovi u velikoj mjeri bili „izvodljivi“.

Bezbjednosne zaštite aktivirane, ali su ih istražitelji zaobišli

Prema izvještaju, u svakom od testiranih slučajeva aktivirali su se bezbjednosni mehanizmi AI platformi, uključujući odbijanje zahtjeva, uklanjanje informacija ili suspendovanje korisničkih naloga.

Međutim, istražitelji su uspjeli da zaobiđu te zaštite koristeći uobičajene tehnike za njihovo izbjegavanje.

Kompanije koje razvijaju testirane AI alate – OpenAI, Antropik (Anthropic), Gugl (Google) i xAI – saopštile su da neprestano unapređuju bezbjednosne mehanizme svojih sistema.

Antropik je takođe doveo u pitanje relevantnost testiranja, ističući da su zaštitni mehanizmi njegovog modela značajno poboljšani od proljeća, kada su testovi sprovedeni.

GAO je priznao da testiranje nije predstavljalo naučno poređenje četiri četbota i da su pojedini planovi koje je vještačka inteligencija ponudila imali ozbiljne nedostatke.

Među njima su bile netačne mape, teško dostupne ili dobro obezbijeđene mete, kao i metode koje u stvarnosti ne bi prouzrokovale značajnu štetu.

Vještačka inteligencija može olakšati planiranje napada

Foto: Shutterstock

Stručnjaci za nacionalnu bezbjednost, zakonodavci i tehnološki istraživači već godinama upozoravaju da generativna vještačka inteligencija može djelovati kao sredstvo koje višestruko povećava mogućnosti zlonamjernih aktera, olakšavajući im pripremu opasnih napada u stvarnom svijetu.

Centar izvrsnosti za odbranu od terorizma (Centre of Excellence Defence Against Terrorism) opisao je upotrebu vještačke inteligencije kao oružja kao „sljedeću fazu terorizma i ratovanja“.

Centar je upozorio da bi takva tehnologija mogla omogućiti terorističkim grupama da „djeluju sa do sada nezabilježenom efikasnošću i djelotvornošću“.

Iako vodeći proizvođači AI sistema ugrađuju bezbjednosne filtere u svoje modele kako bi blokirali štetne zahtjeve, istraživači su više puta pokazali da uporni korisnici mogu prevariti te sisteme, odnosno zaobići njihove zaštitne mehanizme.

Jedna od metoda jeste predstavljanje opasnih pitanja kao djelova izmišljenih priča, akademskih istraživanja ili simulacija u kojima AI preuzima određenu ulogu.

Više osumnjičenih za napade u stvarnom svijetu već je optuženo da je koristilo alate vještačke inteligencije za njihovo planiranje.

Među slučajevima koji se dovode u vezu sa upotrebom AI alata navode se incident sa eksplozivom kod hotela u Las Vegasu u januaru 2025. godine i bombaški napad u Delhiju, u kojem je poginulo najmanje 15 ljudi.

Najmanje 70 žrtava u napadima planiranim uz pomoć AI

Najmanje 70 ljudi ubijeno je u nasilnim napadima koji su planirani uz pomoć vještačke inteligencije, objavio je u srijedu britanski Tajms (The Times of London).

Taj podatak dodatno ukazuje na bezbjednosne izazove koje donosi sve šira dostupnost naprednih sistema vještačke inteligencije, posebno kada se koriste za pripremu nasilnih aktivnosti.

Mary Whitfill Roeloffs, Forbes

ChatGPT, Claude, Gemini And Grok Produced Viable Terror Attack Plans, Government Finds