EU razgovara sa OpenAI-jem i Antropikom nakon incidenata u kojima su AI agenti izmakli kontroli
Evropska komisija razgovara sa kompanijama OpenAI i Antropik (Anthropic) o nedavnim hakerskim incidentima u kojima su učestvovali njihovi modeli vještačke inteligencije, saopštili su danas zvaničnici Komisije, ističući značaj novih evropskih pravila koja zahtijevaju strogi nadzor visokorizičnih sistema.
Evropski Akt o vještačkoj inteligenciji, koji počinje da se primjenjuje 2. avgusta, prvi je zakon u svijetu kojim se reguliše tehnologija koja se koristi u gotovo svim oblastima poslovanja i društva.
Pravila, između ostalog, nalažu da određeni AI sistemi obavijeste korisnike kada komuniciraju sa vještačkom inteligencijom, kao i kada je sadržaj generisan ili izmijenjen pomoću nje.
Antropik je u četvrtak saopštio da su neki od njegovih Klod AI (Claude AI) modela tokom testiranja sajberbezbjednosti prodrli u sisteme tri kompanije, svega nekoliko dana nakon što je konkurentski OpenAI objavio da je jedan njegov AI agent samostalno pokrenuo napad.
Obje kompanije obavijestile su Komisiju o incidentima, rekli su zvaničnici novinarima.
„Oba pružaoca usluga bilateralno su nas obavijestila o incidentima prije nego što su oni postali javni. U kontaktu smo sa njima. Dostaviće nam i dodatne informacije. Vidjećemo da li će biti potrebno da formalnije reagujemo“, rekao je jedan od zvaničnika.
Drugi zvaničnik naglasio je ključnu ulogu evropskih pravila o vještačkoj inteligenciji.
„Svi ovi incidenti pokazuju koliko je važno da programeri zaista uspostave neophodne mehanizme nadzora“, rekao je.
Pravila zahtijevaju od pružalaca najnaprednijih modela opšte namjene, odnosno temeljnih AI modela koji mogu predstavljati sistemski rizik, da odgovore na opasnosti od štete velikih razmjera.
To uključuje hemijske, biološke i nuklearne incidente, sajber napade, štetnu manipulaciju i prijetnje osnovnim pravima.
Kompanije takođe moraju da se bave rizicima po evropsku sajberbezbjednost, kao i mogućnošću da AI djeluje izvan ljudske kontrole.
Kazne za kršenje Akta o vještačkoj inteligenciji kreću se od 7,5 miliona eura, odnosno 1,5 odsto prihoda, do 35 miliona eura ili sedam odsto globalnog prihoda, u zavisnosti od vrste prekršaja.
