Naučnici obučili AI model na DNK, a on stvorio 16 novih virusa koji napadaju bakterije

Model vještačke inteligencije kompanije OpenAI stvorio je više od deset novih virusa koji napadaju bakterije, nakon što su ga naučnici sa Univerziteta Stanford obučili da prepoznaje obrasce u strukturi DNK u prirodi i mijenja ih kako bi proizveo virusne genome koji nikada ranije nijesu postojali.

U studiji objavljenoj u četvrtak u časopisu Sajens (Science), naučnici su objasnili kako su generativni model kompanije OpenAI, nazvan Evo, obučili da od početka dizajnira potpuno funkcionalne virusne genome.

Slično načinu na koji se jezički modeli obučavaju na ogromnim količinama teksta, naučnici su Evo obučili na velikom broju podataka o DNK, koji su obuhvatali milione genoma. Model je tako naučio evolutivna ograničenja koja oblikuju sekvence DNK u prirodi i zatim napisao sopstvene „recepte“ za nove viruse.

Nakon što su naučnici u laboratoriji sintetizovali DNK koji je osmislila vještačka inteligencija, 16 generisanih bakteriofaga uspješno je zarazilo bakteriju ešerihiju koli (E. coli), a neki su uspjeli da savladaju i njene prirodne mehanizme odbrane.

Novi virusi imali su obrasce sekvenci koji se razlikuju od svega do sada pronađenog u prirodi.

Autori studije iz modela za obuku isključili su skupove podataka o patogenima koji napadaju ljude, što znači da stvoreni virusi nijesu sposobni da zaraze čovjeka.

Rezultati su, ipak, objavljeni u trenutku sve veće zabrinutosti naučnika da bi vještačka inteligencija jednog dana mogla da se koristi za stvaranje nove generacije biološkog oružja.

Mogućnost dizajniranja novih i funkcionalnih virusa po mjeri mogla bi, sa druge strane, da dovede do napretka u liječenju superbakterija otpornih na antibiotike. Naučnici bi mogli da stvaraju posebno prilagođene terapije, umjesto da u prirodi tragaju za virusima koji napadaju određene bakterije.

Glavni kritičari

Brojni stručnjaci za biološku bezbjednost, zvaničnici javnog zdravstva i sintetički biolozi izrazili su zabrinutost zbog brzine napretka vještačke inteligencije u biologiji i nedostatka odgovarajućih regulatornih okvira.

U pratećem komentaru objavljenom u Sajensu, stručnjaci za biološku bezbjednost Tomas Inglzbi (Thomas Inglesby) i Moric Hanke (Moritz Hanke) iz Centra Džons Hopkins za zdravstvenu bezbjednost upozorili su da istraživanje sa Stenforda dokazuje da je vještačka inteligencija sada sposobna da stvara opasno biološko oružje.

Pozvali su na uvođenje strogih zakona za buduća istraživanja i naveli da bi primjena sličnih generativnih tehnika na patogene koji napadaju ljude, životinje ili poljoprivredne kulture trebalo da bude zabranjena.

Ključna izjava

„Mogli biste da kažete: ‘Hej, genomski jezički modele, napravi mi genom virusa gripa koji je izmijenjen tako da bude prenosiviji ili smrtonosniji“, rekao je Hanke za Njujork tajms (The New York Times).

Druga strana

Tom Elis (Tom Ellis), profesor inženjerstva sintetičkih genoma na Imperijal koledžu u Londonu (Imperial College London), rekao je za Gardian (The Guardian) da ne vjeruje da bi stvaranje biološkog oružja koje može da ugrozi ljude bilo toliko jednostavno.

Naveo je da virusi koje je stvorio Evo imaju „doslovno najmanje i najjednostavnije genome za proizvodnju“ i dodao da bi čak i jednostavna ograničenja pristupa genetskim podacima mogla da naprave veliku razliku.

Širi kontekst

Naučnici već mjesecima raspravljaju o tome da li bi trebalo ograničiti mogućnosti bioloških sistema zasnovanih na vještačkoj inteligenciji.

Dok jedni tvrde da bi ta tehnologija mogla da ubrza korisna biomedicinska istraživanja, isti modeli mogli bi da budu zloupotrijebljeni za pronalaženje, projektovanje ili optimizaciju bioloških prijetnji ukoliko ne budu uspostavljene odgovarajuće zaštitne mjere.

Velike kompanije za vještačku inteligenciju udružile su se i osnovale neprofitni Forum graničnih modela (Frontier Model Forum), djelimično sa ciljem istraživanja bioloških rizika povezanih sa vještačkom inteligencijom, razvoja bezbjednosnih standarda i smanjenja mogućnosti da najnapredniji modeli budu iskorišćeni za biološke zloupotrebe.

Pored zabrinutosti da bi obučeni modeli mogli da stvaraju nove prijetnje, mnogi upozoravaju da će oni zlonamjernim akterima olakšati pristup znanju o opasnim patogenima.

Naučnici su u aprilu rekli Njujork tajmsu da su četbotovima sa vještačkom inteligencijom postavili niz pitanja, nakon čega su dobili detaljna uputstva, korak po korak, za sastavljanje smrtonosnih patogena i njihovo širenje na javnim mjestima.