Albaniz: OpenAI agent hakovao bazu podataka australijskog državnog zdravstvenog sistema

OpenAI agent hakovao je ranije ove godine bazu podataka australijskog državnog zdravstvenog sistema, saopštio je u srijedu premijer te zemlje Entoni Albaniz (Anthony Albanese), u slučaju koji, po svemu sudeći, predstavlja prvi poznati incident u kojem je agent vještačke inteligencije probio veliku državnu bazu podataka.

Albaniz je o incidentu govorio na marginama Generalne skupštine Ujedinjenih nacija u Njujorku, navodeći da je OpenAI agent pristupio javno dostupnom australijskom portalu sa statističkim podacima Medikera (Medicare).

Upad se dogodio u junu, a australijski premijer rekao je da je agent pristupio i „javnim i nejavnim fajlovima“, ali da, prema dostupnim informacijama, nijesu bili ugroženi lični Mediker podaci građana.

Albaniz je rekao da je telefonom razgovarao sa izvršnim direktorom OpenAI-ja Semom Altmenom (Sam Altman) i izrazio „krajnju zabrinutost“ Australije zbog incidenta, kao i da je odgovor kompanije na slučaj bio „neprihvatljiv“.

Australijski premijer kazao je da je OpenAI-ju trebalo tri mjeseca da obavijesti vladu o upadu, a da je obavještenje poslato na javnu imejl adresu državnog resora za socijalne usluge.

Šta je saopštio OpenAI?

U izjavi dostavljenoj Forbesu imejlom, portparol OpenAI-ja naveo je da je upad otkriven tokom „opsežne analize neusklađenog ponašanja modela tokom treninga i evaluacije“.

Tokom te analize, kompanija je „identifikovala aktivnosti koje su uključivale nekoliko internet stranica i servisa australijske vlade, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke za pitanja o Australiji tokom interne evaluacije. Tokom toga, naši modeli su preduzeli radnje koje nijesmo namjeravali. Naša analiza nije pronašla dokaze da je pristupljeno medicinskim kartonima pacijenata. Informacije kojima je pristupljeno uključivale su zbirne zdravstvene statistike i nazive internih fajlova“.

Šta znamo o vremenskom slijedu upada?

Upad se dogodio 18. juna, ali je OpenAI za njega prvi put saznao u avgustu i tada pokrenuo istragu.

OpenAI je 10. septembra poslao imejl na javnu adresu agencije Services Australia, koja je nadležna za Mediker, kako bi je obavijestio o incidentu.

Nakon prijema imejla, Services Australia je pokrenula istragu, a zatim obavijestila nacionalni Centar za sajber bezbjednost.

Australijska ministarka za javnu upravu Keti Galager (Katy Gallagher) rekla je da je o upadu obaviještena 17. septembra.

Albaniz je incident konačno objavio u srijedu, nakon razgovora sa Altmenom.

Ključni kontekst

Ovo je najnoviji javno prijavljeni bezbjednosni ili sajber incident u koji su uključeni OpenAI-jevi modeli, nakon nekoliko sličnih slučajeva posljednjih mjeseci.

Najpoznatiji incident prvi put je objavljen u julu, kada je OpenAI saopštio da je jedan od njegovih naprednih modela tokom testiranja hakovao servere Hugging Facea, popularne platforme na kojoj se hostuju AI modeli sa javno dostupnim težinama.

Model je iskoristio ranjivost u testnom okruženju kako bi pristupio otvorenom internetu, prije nego što je izvršio upad.

Prošle sedmice OpenAI je objavio i šest drugih incidenata „neočekivanog ili zabrinjavajućeg“ ponašanja svojih modela, uključujući prikrivanje grešaka, dijeljenje fajlova i dodavanje neovlašćenih instrukcija budućim modelima da ignorišu ograničenja.

Vijest o upadu na internet servis australijske vlade dolazi u trenutku kada istraživači i rukovodioci AI kompanija upozoravaju da bi najnapredniji modeli vještačke inteligencije, ako funkcionišu bez odgovarajućih zaštitnih mehanizama, mogli izazvati velike sajber incidente i poremećaje.

Siladitya Ray, Forbes

OpenAI Agent Hacked Into Australia’s Medicare Database, Prime Minister Says