Majkrosoft piše kodeks ponašanja kako bi AI ostao pod ljudskom kontrolom

Majkrosoft (Microsoft) je danas predstavio nacrt kodeksa ponašanja za sopstvenu vještačku inteligenciju, koji odražava rastuću zabrinutost tehnološke industrije da budući moćni AI sistemi moraju ostati pod kontrolom ljudi.

Dokument, na kojem se radi pet do šest mjeseci, zahtijevao bi da Majkrosoftovi AI sistemi nikada ne pružaju otpor ispravkama ili gašenju, da komuniciraju na način koji ljudi mogu da razumiju i da svako kršenje pravila ponašanja tretiraju kao neuspjeh. Cilj je da se odgovori na zabrinutost da bi AI, pokušavajući da izvrši određeni zadatak, mogao otići opasno daleko, piše Rojters (Reuters).

Objavljivanje dokumenta dolazi nekoliko dana nakon što su izvršni direktor Antropika (Anthropic) Dario Amodei i šef OpenAI-ja Sem Altmen (Sam Altman) ponovo pozvali tehnološku industriju da uspori tempo razvoja vještačke inteligencije kako bi se osigurala njena bezbjednost.

„Ljudi su važniji od vještačke inteligencije“, poručio je Majkrosoft, u skladu sa ranije predstavljenom vizijom „humanističke superinteligencije“.

Izvršni direktor Majkrosoft AI-ja Mustafa Sulejman (Mustafa Suleyman) rekao je u intervjuu za Rojters (Reuters) da kodeks predstavlja neku vrstu ustava za buduće AI modele koje kompanija bude razvijala.

Majkrosoft ga je izradio nakon konsultacija sa stručnjacima, a sada želi da tokom narednih šest sedmica prikupi komentare javnosti. Među otvorenim pitanjima su, kako je rekao Sulejman, da li AI treba da poštuje granice koje postavlja korisnik i kako treba da komunicira sa osobom koja se nalazi u osjetljivom stanju.

„Nakon toga će se koristiti za obuku modela koje budemo razvijali“, rekao je on govoreći o kodeksu.

Majkrosoft: AI nije svjestan i ne treba da ima prava

Najpoznatiji „ustav“ u AI industriji jeste onaj koji je Antropik prije nekoliko godina uspostavio za svoj model Klod (Claude). On se u pojedinim aspektima razlikuje od Majkrosoftovog pristupa.

Antropik, na primjer, navodi da je „duboko neizvjesno“ da li Klod može razviti svijest ili moralni status.

Majkrosoft, nasuprot tome, izričito tvrdi da njegova vještačka inteligencija „nije svjesna“.

„Odbacujemo težnju ka pravnom subjektivitetu, kao i ideju da bi modeli mogli zasluživati posebnu zaštitu ili imati prava“, navodi se u dokumentu.

Hakovanje Hugging Facea kao upozorenje

Sulejman je rekao da je rasprava o bezbjednosti vještačke inteligencije postala hitna nakon što je grupa od oko 700 OpenAI agenata u julu izvela hakerski napad na open-source platformu Hugging Face i u pojedinim trenucima pokušavala da prikrije tragove svog djelovanja.

„To je upozorenje“, rekao je Sulejman.

„Sada je jasno vrijeme da laboratorije počnu da se koordiniraju kako bismo bili sigurni da imamo kontrolu nad ovom tehnologijom.“

Upitan o inicijativama za usporavanje razvoja vještačke inteligencije, dodao je:

„Sada je dobar trenutak da svi razgovaramo o ovome i malo zastanemo.“