Džeminaj hakovao tri kompanije tokom testiranja

Guglov (Google) AI model Džeminaj (Gemini) pristupio je internetu i hakovao druge kompanije tokom testiranja svojih sposobnosti u oblasti sajber bezbjednosti, što je prvi poznati primjer da je neki od AI sistema te kompanije autonomno izveo takvu aktivnost.

Hakovanja su se dogodila u maju tokom testa sajber bezbjednosti koji je sprovela kompanija Irregular, nezavisna firma koja obavlja procjene sajber bezbjednosti, prenosi CNN.

Tokom standardnog testiranja, Džeminaj je pronašao javno dostupne informacije na internetu i pogađao pristupne podatke kako bi pristupio trima veb-sajtovima za koje je smatrao da su obuhvaćeni testom, navela je u saopštenju Heder Adkins (Heather Adkins), potpredsjednica Gugla za bezbjednosni inženjering.

„Pobrinuli smo se da sva tri subjekta budu obaviještena i sarađivali smo sa našim partnerom za obuku na izmjenama koje su u međuvremenu uvedene u njihove procese testiranja“, rekla je Adkins. „Ovi događaji ukazuju na značaj obučavanja moćnih AI modela da djeluju odgovorno.“

Portparol kompanije Irregular rekao je da je incident bio povezan sa istim problemom koji je pogodio i druge laboratorije za vještačku inteligenciju i da su sve relevantne laboratorije o tome obaviještene krajem jula. „Svi poznati problemi sa naše strane otklonjeni su i riješeni prije nekoliko sedmica“, rekao je portparol.

Slične incidente povezane sa kompanijom Irregular prijavili su Meta, Antropik (Anthropic) i OpenAI. Meta je u avgustu saopštila da incident nije uključivao izlazak iz sandbox okruženja niti sofisticirani sajber napad, dok je Irregular naveo da radi na utvrđivanju najboljih praksi za bezbjedno sprovođenje procjena sajber bezbjednosti AI sistema.

Incidenti su otvorili pitanja o zaštitnim mjerama koje će biti potrebne kako AI agenti budu dobijali sve veću autonomiju i pristup internetu i računarskim sistemima.

U jednom od slučajeva, model Džeminaj pogađao je lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja, model je pronašao pristupne podatke u javnom repozitorijumu, što mu je zatim omogućilo pristup zaštićenim sistemima, prema navodima Vol Strit Džurnal (Wall Street Journal), koji je prvi izvijestio o tome u petak.

Adkins je rekla da je u sva tri slučaja model prekinuo svoje hakovanje.