Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom

Autor: Tanjug

Info

01.01.2026.

16:10 > 15:59

Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.

Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom

Foto: Pixabay (ilustracija)

Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.

Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.

Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".

On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.

Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.

"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.

Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.

Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.

Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.

Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.

Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.

Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.

Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.

OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Teme

veštačka inteligencija

Komentari 1

Hronološki Najpopularniji

Ajnstajn

01.01.2026 • 19:03

Ajnstajn

Pa i ostace,dovoljno je iskljuciti struju AI i ne stace u sekundi.

6 0 +6

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.