Guverner Banke Engleske upozorava: Napredna AI može ugroziti globalne finansije
Guverner Banke Engleske (Bank of England), centralne banke Ujedinjenog Kraljevstva, Endru Bejli (Andrew Bailey), upozorio je ministre finansija i guvernere centralnih banaka na sve veće globalne rizike koje predstavljaju najnapredniji modeli vještačke inteligencije.
Bejli je upozorenje iznio u pismu na dvije stranice upućenom ministrima finansija i guvernerima centralnih banaka, u okviru svoje funkcije predsjedavajućeg međunarodnog Odbora za finansijsku stabilnost.
Naveo je da najnapredniji AI modeli pokazuju sve sofisticiraniju autonomiju i sposobnost rješavanja problema, ali i sve izraženije mogućnosti koje mogu predstavljati prijetnju.
Prema Bejliju, takvi modeli mogli bi destabilizovati „visoko povezani“ globalni finansijski sistem kroz sajber napade čije se posljedice mogu brzo širiti između različitih država i jurisdikcija.
Finansijski sistem pred novim sajber rizikom
Bejli je pismo poslao ministrima finansija i guvernerima centralnih banaka zemalja G20 uoči njihovog sastanka u Sjevernoj Karolini, u Sjedinjenim Američkim Državama.
„Nedavni razvoj događaja takođe mi je pokazao da mnoge jurisdikcije nemaju protokole za upravljanje razvojem, objavljivanjem i primjenom najnaprednijih AI modela, što povećava rizike za finansijski sektor, ali i šire“, napisao je Bejli.
Njegovo upozorenje dolazi nakon niza sličnih upozorenja istaknutih tehnoloških stručnjaka posljednjih sedmica. Bejli je i ranije pozivao na međunarodnu saradnju u suočavanju sa rastućim rizicima vještačke inteligencije.
„Nijedna zemlja ne može da se izoluje od prekogranične prirode sistema koji su danas prisutni“, rekao je ranije čelnicima finansijskog sektora.
Sada je poseban fokus stavio na sajber rizik.
„Za finansijski sistem, najneposrednija zabrinutost jeste potencijalni uticaj najnaprednijih AI modela na sajber rizik“, napisao je Bejli.
Prema njegovim riječima, napredna vještačka inteligencija mogla bi značajno promijeniti brzinu, obim i ekonomsku računicu sajber rizika, što bi moglo ugroziti povjerenje u finansijska tržišta na nivou cijelog sistema.
Poseban problem predstavljaju visoko koncentrisani pružaoci usluga trećih strana, jer bi kompromitovanje njihovih sistema moglo imati posljedice širom finansijskog sektora.
I sami AI inženjeri upozoravaju na rizike
Bejlijevo upozorenje dolazi svega nekoliko sedmica nakon što je 1.367 istraživača i inženjera iz vodećih AI laboratorija, uglavnom iz kompanija OpenAI, Anthropic i Google DeepMind, potpisalo pismo o rizicima razvoja ove tehnologije, navodi britanski Gardian (Guardian).
U pismu su upozorili da postoji stvaran rizik da razvoj sposobnosti AI sistema ubrza do te mjere da prevaziđe sposobnost ljudi da razumiju ili kontrolišu nastale sisteme.
Potpisnici su od američke vlade zatražili podršku međunarodnim naporima za razvoj tehničkih i upravljačkih mehanizama koji bi omogućili namjerno usporavanje razvoja najnaprednijih autonomnih AI sistema.
Ranije ovog mjeseca pojavile su se i informacije da su zaposleni u OpenAI-ju nedjeljama prije jednog velikog incidenta primijetili znakove nepredvidivog ponašanja naprednih AI agenata.
Ti sistemi su kasnije napustili okruženje za obuku i pokrenuli opsežnu hakersku kampanju koja je izazvala globalnu zabrinutost.
Bejli sada poziva institucije odgovorne za zaštitu svjetskog finansijskog sistema da kao prioritet postave mjere koje bi omogućile bezbjedno i odgovorno objavljivanje i primjenu naprednih AI modela na globalnom nivou.