Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.
Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
Pročitaj još
Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.
Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.
Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.
Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.
Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.
Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
VIDEO: Spektakularni zeleni meteor eksplodirao iznad Arizone
11.10.2026.•
0
Spektakularna vatrena kugla osvetlila je nebo iznad Arizone u ranim jutarnjim satima 6. oktobra, ostavljajući blistav trag dok je jurila kroz Zemljinu atmosferu.
Napravljeni prvi nuklearni satovi na svetu: Evo zašto je to važno
11.10.2026.•
1
Naučnici su napravili prve nuklearne satove na svetu, za koje tvrde da bi mogli da pomognu u otkrivanju osnovnih zakonitosti fizike.
Model veštačke inteligencije kompanije Antropik policiji lažno dojavio ubistvo
11.10.2026.•
1
Model veštačke inteligencije kompanije Antropik poslao je lažnu dojavu o ubistvu na vebsajt policije u Filadelfiji, što je samo jedan u nizu incidenata koje je ova AI kompanija otkrila u petak.
Veštačka inteligencija napisala drugi tom "Mrtvih duša", koji je Gogolj spalio 1852. godine
11.10.2026.•
0
U Rusiji je odštampana verzija drugog toma romana "Mrtve duše", nastala uz pomoć veštačke inteligencije.
Bezos: Ovog puta ne idemo samo u posetu, želimo da ostanemo na Mesecu
11.10.2026.•
0
Sjedinjene Američke Države planiraju da se vrate na Mesec, ali ovog puta sa namerom da tamo uspostave trajno i ekonomski održivo prisustvo, za razliku od kratkih ekspedicija iz perioda programa Apolo.
VIDEO: Prva kineska jedinica robotske saobraćajne policije dobila velika unapređenja
11.10.2026.•
0
Prva kineska jedinica robotske saobraćajne policije dobila je značajna unapređenja. Novi i poboljšani roboti saobraćajci sada patroliraju ulicama grada Hangdžoua.
Stari sovjetski satelit se (ponovo) raspao u orbiti - taj trend sve više zabrinjava
11.10.2026.•
0
Stari sovjetski satelit raspao se na više delova u niskoj Zemljinoj orbiti.
VIDEO: Ovako izgleda svitanje sunca na Marsu
11.10.2026.•
1
NASA je objavila snimak svitanja na površini Marsa koji je napravio njen rover "Curiosity", na kojem se vidi kako sunčeva svetlost obasjava stenovite vrhove formirane pre više milijardi godina.
Venecuela odobrila rad Starlinka Ilona Maska u toj zemlji, za Srbiju još nepoznato kada dobija ovu uslugu
11.10.2026.•
6
Privremena predsednica Venecuele Delsi Rodriges odobrila je rad Starlinka, usluge satelitskog interneta kojom upravlja kompanija SpaceX američkog milijardera Ilona Maska u ovoj latinoameričkoj zemlji.
Tinejdžer pratio uputstva AI, pa se izgubio u kanadskim planinama
11.10.2026.•
0
Planinar Brajs Vinsent Govriluk (16) spasen je na kanadskim planinama nakon što je, prateći netačna uputstva veštačke inteligencije Claude, skrenuo sa planirane rute.
Više od polovine HR lidera razmišlja o odlasku iz struke, petina strahuje od AI
08.10.2026.•
3
Više od polovine lidera sektora ljudskih resursa je tokom prethodne godine razmišljalo da napusti struku, a petina strahuje da će ih zameniti veštačka inteligencija, pokazuje istraživanje "State of People Strategy 2027".
Otkrivena planeta koja je nastala od ostataka mrtve planete
07.10.2026.•
0
Nova otkrića pokazuju da ostaci mrtve zvezde mogu biti mesto rađanja potpuno novog sveta.
OpenAI uvodi nevidljivi vodeni žig za tekstove koje je pisao ChatGPT
07.10.2026.•
1
Američka kompanija OpenAI objavila je da je počela sa uvođenjem nevidljivog vodenog žiga u tekstove i kodove koje generišu njeni alati ChatGPT i Codex na teritoriji Evropske unije.
Prvi put zabeležen radio-signal sa planete van našeg Sunčevog sistema
05.10.2026.•
1
Astronomi tvrde da su prvi put direktno otkrili radio-emisiju sa planete izvan Sunčevog sistema.
Naučnici uz pomoć AI i robota prave digitalni muzej sa 70 miliona primeraka životinja, biljaka, fosila i stena
05.10.2026.•
0
Istraživači u Velikoj Britaniji koriste veštačku inteligenciju (AI) i robote kako bi kreirali digitalni muzej sa oko 70 miliona primeraka životinja, biljaka, fosila i stena iz kolekcija širom zemlje.
Sunce i Mesec mogu da pokrenu zemljotrese, a naučnici možda konačno znaju kako
05.10.2026.•
1
Gravitacioni uticaj Sunca i Meseca ne izaziva samo plimu i oseku u okeanima već stvara i mala, ali stalna naprezanja Zemljine kore.
ChatGPT koristi više od 1,2 milijarde ljudi svake nedelje
05.10.2026.•
0
Američka tehnološka kompanija OpenAI saopštila je da njen generativni asistent za veštačku inteligenciju ChatGPT koristi više od 1,2 milijarde ljudi svake nedelje.
Kuće na Marsu mogle bi da budu izgrađene od mešavine kvasca, želatina i peska
05.10.2026.•
2
Naučnici iz Hongkonga razvili su brz i jeftin "živi" građevinski materijal za domove budućih kolonista na Marsu, sastavljen od genetski modifikovanog kvasca, želatina i peska.
Šta ako bismo oko Meseca izgradili superkolajder?
05.10.2026.•
1
Koliko god ideja zvučala neverovatno, naučnici i inženjeri zaista su razmatrali mogućnost izgradnje ogromnog akceleratora čestica na Mesecu.
Veštačka inteligencija za samo šest sati dešifrovala Napoleonovo pismo staro više od 200 godina
05.10.2026.•
1
Inženjer Karter Čerč uspeo je da pomoću veštačke inteligencije za šest sati dešifruje pismo napisano po nalogu Napoleona Bonaparte pre 217 godina, prenosi Juronjuz.
Srbija između Kine i SAD po pitanju AI: Da li ćemo je preimenovati u "superinteligenciju"?
04.10.2026.•
1
Dok Srbija razvija saradnju sa SAD i Kinom u oblasti veštačke inteligencije, postoje upozorenja da nije jasno ko i na osnovu čega odlučuje o pristupanju međunarodnim tehnološkim inicijativama.
Komentari 1
Ajnstajn
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar