Antropik tvrdi da je blokirao mogući pokušaj razvoja biološkog oružja
Kompanija Antropik (Anthropic) zabranila je naloge za koje sumnja da su pokušali da iskoriste njen AI model Klod (Claude) za razvoj biološkog oružja, saopšteno je u četvrtak, svega nekoliko dana nakon što su stručnjaci za vještačku inteligenciju upozorili da bi sve moćniji digitalni asistenti mogli predstavljati prijetnju i po opstanak čovječanstva.
Antropik je u izvještaju objavljenom u četvrtak naveo da je blokirao zahtjev za pomoć Kloda u pisanju prijave za naučni grant, kojim je trebalo finansirati istraživanje genetskih izmjena virusa čikungunje, koji prenose komarci.
Prema navodima kompanije, cilj projekta bio je da virus, koji ima veoma nisku stopu smrtnosti, ali može izazvati dugotrajne bolove u zglobovima i mišićima, postane štetniji.
Antropik je istovremeno priznao da bi slična istraživanja mogla imati legitimnu primjenu u razvoju vakcina ili terapija protiv tog virusa.
Ipak, ista istraživanja mogla bi se iskoristiti i da virus postane opasniji. Kompanija je posumnjala da projekat nije bezazlen kako je predstavljen, jer je u prijavi navedeno učešće civilnih istraživača, dok je samo istraživanje trebalo da bude sprovedeno u vojnom istraživačkom institutu.
Antropik nije objavio imena niti povezanost institucija i istraživača koji su eventualno bili uključeni.
Kompanija je saopštila da je zabranila sve naloge povezane sa tim aktivnostima, ugasila mreže posrednika koje su služile za zaobilaženje regionalnih blokada i podijelila nalaze istrage sa drugim AI laboratorijama i američkom saveznom vladom.
„Istraživanje nije bilo ograničeno samo na prijavu za finansiranje“
„Na osnovu postojanja ovih istraživačkih materijala zaključujemo da aktivnosti nijesu bile ograničene samo na predlog za finansiranje“, naveo je Antropik u izvještaju.
„Zabranjujemo naloge za koje utvrdimo da su povezani sa ovom grupom aktivnosti i nastavljamo da nalaze iz istrage ugrađujemo u nove mjere za otkrivanje i sprečavanje zloupotrebe Antropikovih usluga.“
Stručnjaci upozoravaju na rizik od AI-ja
Bivši zaposleni OpenAI-ja i Antropika, kao i jedan aktuelni zaposleni te kompanije, upozorili su ove sedmice da postoji mogućnost da bi vještačka inteligencija u narednoj deceniji mogla dovesti čak i do izumiranja čovječanstva.
Evan Hjubinger (Evan Hubinger), koji u Antropiku rukovodi radom na usklađivanju funkcionisanja AI sistema sa ljudskim ciljevima i vrijednostima, rekao je da lično procjenjuje da postoji više od 10 odsto šanse da bi „AI mogao da ubije sve ljude“ u narednih deset godina, ukoliko se razvoj nastavi sadašnjim, ubrzanim tempom.
Pozivi na zakon o „prekidaču za gašenje AI-ja“
Hjubingerova procjena uslijedila je kao odgovor na objavu Džejkoba Koksona (Jacob Coxon), istraživača koji je nedavno napustio Antropik nakon kratkog angažmana u kompaniji.
Kokson je optužio AI kompanije da se ne ponašaju odgovorno, tvrdeći da „jure pravo ka superinteligenciji koja se sama unapređuje i kockaju se našim životima“.
Dodao je da istraživači koji rade na vještačkoj inteligenciji vjeruju da bi ona mogla „da nas sve ubije do kraja decenije“ i naglasio da njegove tvrdnje nijesu „marketinški trik“.
Objave Koksona i Hjubingera podstakle su pozive američkih zakonodavaca da usvoje takozvani „AI Kill Switch Bill“, odnosno zakon koji bi omogućio zaustavljanje opasnih AI sistema.
Senator Berni Sanders (Bernie Sanders), nezavisni senator iz Vermonta, najavio je da će predložiti zakon kojim bi se zabranila superinteligencija i privremeno zaustavio dalji razvoj najnaprednijih AI sistema.
Američki predsjednik Donald Tramp, s druge strane, snažno podržava razvoj vještačke inteligencije u SAD, podstiče lokalne zajednice da prihvate izgradnju data centara i podržava tehnološku trku sa Kinom u oblasti AI-ja.
Antonio Pequeño IV, Forbes
Anthropic Says It Blocked Possible Biological Weapons Undertaking