Direktor Mistrala: AI giganti bezbjednost koriste da prikriju sopstvene propuste
Milijarder i izvršni direktor vodeće evropske kompanije za vještačku inteligenciju Mistral kritikovao je najveće AI kompanije i optužio ih da raspravu o bezbjednosti vještačke inteligencije koriste kako bi prikrile sopstveni „nemar“.
Time je postao posljednji u nizu rukovodilaca iz AI industrije koji su kritikovali upozorenja Antropika (Anthropic) i OpenAI-ja o bezbjednosnim rizicima naprednih AI modela i njihove pozive na usporavanje razvoja.
U intervjuu za CNBC u utorak, izvršni direktor Mistral AI-ja Artur Menš (Arthur Mensch) rekao je da je debata koja se vodi u Sjedinjenim Američkim Državama „služila kao pokriće za nemar nekih naših konkurenata“.
Menš je rekao da AI sistemi mogu da urade stvari koje se od njih ne očekuju, zbog čega kompanije moraju da imaju „odgovarajuće sisteme nadzora“. Dodao je da njegova kompanija takve sisteme obezbjeđuje firmama sa kojima sarađuje.
Direktor Mistrala kazao je da je važno uspostaviti „odgovarajuće standarde“, ali i da Evropa mora „imati riječ u tome kako se stvari oblikuju“.
Menš je zatim naveo da, ukoliko Evropa želi da utiče na način upravljanja vještačkom inteligencijom, mora biti sposobna da sama razvija tu tehnologiju i pokaže da nije ranjiva u slučaju da američke kompanije prestanu da nude svoja rješenja.
Forbes procjenjuje Menšovo bogatstvo na 1,8 milijardi dolara
Prema procjenama Forbesa, Menš ima imovinu vrijednu oko 1,8 milijardi dolara.
Mistral je početkom ovog mjeseca objavio da je prikupio tri milijarde eura, odnosno oko 3,4 milijarde dolara, u najvećoj investicionoj rundi jedne tehnološke kompanije u istoriji Evrope. Investicioni krug predvodio je Samsung.
Najnovija runda finansiranja podigla je vrijednost Mistral AI-ja na 21 milijardu eura, odnosno oko 23,8 milijardi dolara. To je i dalje znatno manje od procijenjenih vrijednosti Antropika i OpenAI-ja, koje premašuju bilion dolara.
Za razliku od ta dva američka AI giganta, vodeći modeli Mistrala su otvorenog koda.
Antropik i OpenAI tražili usporavanje razvoja
Nakon upozorenja AI istraživača ranije ovog mjeseca, izvršni direktori Antropika i OpenAI-ja pozvali su na usporavanje razvoja najnaprednijih AI modela dok ne budu uspostavljeni bolji bezbjednosni sistemi i mehanizmi usklađivanja.
Njihov stav, međutim, naišao je na snažno protivljenje drugih vodećih tehnoloških rukovodilaca.
Izvršni direktor Mete Mark Zakerberg (Mark Zuckerberg) rekao je da kompanije koje razvijaju vještačku inteligenciju moraju da obezbijede bezbjednost svojih modela kako bi izbjegle „značajnu odgovornost“.
On je naveo da ljudi neće koristiti AI agente koji „nijesu usklađeni sa njima i ne rade ono što od njih traže“, što kompanijama daje „snažan prirodni podsticaj“ da vode računa o usklađenosti sistema.
Izvršni direktor Envidije (Nvidia) Džensen Huang (Jensen Huang) takođe je odbacio pozive na koordinisano usporavanje razvoja, navodeći da je izbor između bezbjednosti AI-ja i brzine razvoja „lažna dilema“ i da je „sasvim moguće imati oboje istovremeno“.
Dejvid Saks (David Sacks), koji je ranije bio specijalni savjetnik američkog predsjednika Donalda Trampa (Donald Trump) za AI i kriptovalute, kritikovao je Antropik i OpenAI zbog poziva na usporavanje.
„Prestanite da se pretvarate da je motiv za usporavanje isključivo altruistički“, poručio je Saks.
On je takođe tvrdio da su pozivi na usporavanje razvoja i jaču regulaciju bezbjednosti pokušaj „regulatornog zarobljavanja“, odnosno oblikovanja pravila na način koji bi pogodovao najvećim kompanijama.
OpenAI odustao od objavljivanja GPT-6.1 Astra zbog bezbjednosnih problema
OpenAI je u ponedjeljak otkazao objavljivanje svog najnovijeg modela GPT-6.1 Astra nakon što su tokom internog testiranja otkriveni bezbjednosni problemi.
Šef bezbjednosti kompanije koja stoji iza ČetGPT-ja (ChatGPT) rekao je za Vol strit džurnal (Wall Street Journal) da je GPT-6.1 pokazao loše rezultate na testovima usklađenosti, uključujući više obmanjujućeg ponašanja nego prethodni model.
Model, prema tim navodima, korisniku nije na odgovarajući način otkrivao koje je radnje preduzimao.
Novi model je takođe mogao da nastavi izvršavanje zadatka bez traženja dozvole korisnika, što bi moglo da dovede do pristupa spoljnim sistemima i alatima čak i kada oni nijesu bezbjedni.
Siladitya Ray, Forbes
Billionaire CEO Of Europe’s Top AI Firm Says Safety Debate Is A Bid To Hide Rivals’ ‘Negligence’