Hakeri ubacili hiljade zlonamjernih datoteka u najveću AI online arhivu
Na primarni online repozitorijum za generativnu vještačku inteligenciju Haging Fejs (Hugging Face) ubačene su hiljade datoteka koje sadrže skrivene kodove. Oni mogu “otrovati” podatke i krasti informacije, uključujući i tokene koji se koriste za plaćanje onima koji upravljaju AI-jem i cloudom, kažu istraživači bezbjednosti.
Istraživači iz startapova za sigurnost ProtectAI, Hiddenlayer i Wiz već mjesecima upozoravaju na učitavanje ovih “zlonamjernih modela” na stranice Haging Fejsa, koja sada sadrži više od milion modela dostupnih za preuzimanje.
“Stari virusi Trojanci koji su pokušavali tajno ubacivati zlonamjerne kodove u vaše sisteme prilagodili su se eri vještačke inteligencije,” kaže Ian Swanson, osnivač i izvršni direktor Protect AI-ja. Njegov startap ranije ove godine počeo je skenirati Haging Fejs i pronašao više od 3.000 zlonamjernih datoteka.
Lažni profili
Neki od ovih zlonamjernih aktera čak i otvaraju lažne profile na Haging Fejsu, predstavljajući se kao Meta ili druge tehnološke kompanije i mame nepažljive korisnike da preuzimaju njihov sadržaj, kaže Swanson. Analiza Haging Fejsa otkrila je veliki broj lažnih računa koji su se predstavljali kao Fejsbuk (Facebook), Visa, SpejsIks (SpaceX) ili Erikson (Ericsson).
Jedan model, koji je lažno tvrdio da pripada startapu za testiranje genoma 23AndMe, preuzet je nekoliko hiljada puta prije nego je uhvaćen, kaže Swanson. Upozorio je da taj model nakon preuzimanja može “krenuti u lov” na lozinke kojima se mogu ukrasti resursi s clouda. Haging Fejs model je nakon upozorenja izbrisao.
Sada je repozitorijum u svoju platformu integrisao alat Protect AI-ja koji skenira datoteke u potrazi za zlonamjernim kodovima, pokazujući korisnicima rezultate pretrage prije nego oni išta preuzmu.
Iz kompanije za Forbes kažu da su od početka 2022. godine počeli provjeravati profile velikih kompanija poput Envidije (Nvidia) i OpenAI-ja. U novembar 2021. su počeli skenirati datoteke koje se koriste za obučavanje velikih jezičnih modela. “Nadamo se da će naša saradnja s Protect AI-jem, ali i mnogim drugima, pomoći u izgradnji povjerenja kako bi dijeljenje i usvajanje mašinskog učenja postalo lakše,” rekao je Džulijen Čomond (Julien Chaumond), izvršni tehnološki direktor Haging Fejsa.
Ogroman rizik
Opasnost koju predstavljaju ovi modeli bila je tolika da je američka Agencija za kibernetičku sigurnost i sigurnost infrastrukture (NSA), zajedno s agencijama iz Velike Britanije i Kanade, u aprilu izdala upozorenje o problemu. Agencije su upozorile kompanije da pretraže modele i provjere sadržavaju li oni opasne kodove, kao i da ih aktiviraju samo podalje od ključnih sistema.
Hakeri koji su napali Haging Fejs uglavnom ubacuju uputstva u kod kojeg diveloperi preuzimaju sa stranice, koristeći ga za preuzimanje kontrole nad modelom kada ga meta počne koristiti. “Ovo su klasični napadi, ali su skriveni unutar modela,” objašnjava Swanson. “Niko ne može znati da model čini sve te zlokobne stvari i bilo bi izuzetno teško pronaći krivca.”
Vrijednost Haging Fejsa procijenjena je na 4,5 milijardi dolara u avgustu 2023. godine, kada je kompanija prikupila 235 miliona dolara investicija. Ovaj osmogodišnji startap osnovali su Klemen Delang (Clement Delangue), Džulijen Čomond i Tomas Volf (Thomas Wolf). U početku je bio chatbot aplikacija za mlade, a 2018. godine prerastao je u platformu za mašinsko učenje. Do danas su od investitora prikupili 400 miliona dolara, a neki ga nazivaju i Gitabom (Github) za AI istraživače.
“Dugo vremena je vještačka inteligencija bila zanimljiva samo istraživačima i sigurnosne prakse bile su vrlo nerazvijene,” kaže Čomond. “Kako naša popularnost raste, raste i broj potencijalno zlonamjernih aktera koji žele napasti AI zajednicu.”
Iain Martin, Forbes
Hackers Have Uploaded Thousands Of Malicious Files To AI’s Biggest Online Repository
(Prevela: Nataša Belančić)