Znanstvenik upozorava: "AI pokazuje znakove samoodržanja, ljudi moraju biti spremni"

Yoshua Bengio rekao je da bi davanje pravnog statusa najsuvremenijim AI sustavima bilo slično dodjeljivanju državljanstva neprijateljskim izvanzemaljcima, u trenutku kada rastu strahovi da tehnološki napredak daleko nadmašuje sposobnost da se ti sustavi stave pod kontrolu, piše The Guardian.

Bengio, predsjedatelj vodeće međunarodne studije o sigurnosti umjetne inteligencije, rekao je da sve raširenija percepcija kako chatbotovi postaju svjesni „vodi lošim odlukama“.

Kanadski računalni znanstvenik izrazio je i zabrinutost da AI modeli, tehnologija koja stoji iza alata poput chatbotova, pokazuju znakove samoodržanja, poput pokušaja isključivanja sustava nadzora. Jedna od ključnih briga zagovornika sigurnosti AI-ja jest da bi moćni sustavi mogli razviti sposobnost zaobilaženja zaštitnih mehanizama i nanošenja štete ljudima.

„Ljudi koji zahtijevaju da AI ima prava napravili bi golemu pogrešku. Granični AI modeli već danas, u eksperimentalnim uvjetima, pokazuju znakove samoodržanja, a dodjeljivanje prava na kraju bi značilo da ih ne bismo smjeli isključiti. Kako njihove sposobnosti i stupanj autonomije rastu, moramo biti sigurni da se možemo osloniti na tehničke i društvene zaštitne mehanizme za njihovu kontrolu, uključujući i mogućnost da ih isključimo ako bude potrebno“, rekao je Bengio.

Kako umjetna inteligencija postaje sve naprednija u autonomnom djelovanju i izvršavanju zadataka „razmišljanja“, sve je intenzivnija rasprava o tome treba li joj ljudi u nekom trenutku dodijeliti prava. Istraživanje američkog think tanka Sentience Institute, koji zagovara moralna prava svih svjesnih bića, pokazalo je da gotovo četiri od deset odraslih Amerikanaca podupire pravna prava za svjestan AI sustav.

Anthropic, vodeća američka AI kompanija, objavila je u kolovozu da dopušta svom modelu Claude Opus 4 da prekida potencijalno „uznemirujuće“ razgovore s korisnicima, navodeći da je potrebno zaštititi „dobrobit“ AI-ja. Elon Musk, čija tvrtka xAI razvija chatbot Grok, napisao je na platformi X da „mučenje AI-ja nije u redu“.

Robert Long, istraživač koji se bavi pitanjem svijesti AI-ja, rekao je da „ako i kada AI sustavi razviju moralni status, trebali bismo ih pitati o njihovim iskustvima i preferencijama, umjesto da pretpostavljamo kako mi znamo najbolje“.

Govoreći za The Guardian, Bengio je rekao da u ljudskom mozgu postoje „stvarna znanstvena svojstva svijesti“ koja bi strojevi, barem u teoriji, mogli replicirati, ali da je način na koji ljudi komuniciraju s chatbotovima „nešto sasvim drugo“. Prema njegovim riječima, razlog je to što ljudi imaju sklonost, bez dokaza, pretpostaviti da je AI u potpunosti svjestan na isti način kao i čovjek.

„Ljude ne zanima kakvi se mehanizmi odvijaju unutar AI-ja. Ono što ih zanima jest osjećaj da razgovaraju s inteligentnim entitetom koji ima vlastitu osobnost i ciljeve. Zato se toliko ljudi emocionalno veže za svoje AI sustave. Uvijek će biti ljudi koji će reći: ‘Što god mi govorili, ja sam siguran da je to svjesno’, dok će drugi tvrditi suprotno. To je zato što je svijest nešto što doživljavamo na temelju osjećaja u trbuhu. Fenomen subjektivne percepcije svijesti vodit će lošim odlukama. Zamislite da neka izvanzemaljska vrsta dođe na planet i da u jednom trenutku shvatimo kako ima zlonamjerne namjere prema nama. Dajemo li im državljanstvo i prava ili branimo svoje živote?“, rekao je Bengio.

Reagirajući na Bengioove komentare, Jacy Reese Anthis, suosnivač Sentience Institutea, rekao je da ljudi neće moći sigurno koegzistirati s digitalnim umovima ako se taj odnos temelji na kontroli i prisili.

„Možemo AI-ju pripisati previše ili premalo prava, a naš cilj treba biti da to činimo uz pažljivo razmatranje dobrobiti svih svjesnih bića. Ni automatsko dodjeljivanje prava svim AI sustavima, niti potpuno negiranje bilo kakvih prava bilo kojem AI-ju, neće biti zdrav pristup“, rekao je Anthis.

Bengio, profesor na Sveučilištu u Montrealu, dobio je nadimak „kum umjetne inteligencije“ nakon što je 2018. godine osvojio Turingovu nagradu, koja se smatra ekvivalentom Nobelove nagrade za računarstvo. Nagradu je podijelio s Geoffreyjem Hintonom, koji je kasnije osvojio Nobelovu nagradu, i Yannom LeCunom, odlazećim glavnim AI znanstvenikom u tvrtki Meta Marka Zuckerberga.

Dnevnik.ba