Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Foto: Pixabay (ilustracija)
Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.
Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
Pročitaj još
Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.
Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.
Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.
Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.
Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.
Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Britanska kompanija poslala u svemir fabriku za proizvodnju provodnika
31.12.2025.•
0
Britanska kompanija "Space Forge" poslala je u svemir fabriku opremljenu pećnicom koja može da dostigne temperature i do 1.000 stepeni Celzijusa, a koja u svemiru proizvodi materijal 4.000 puta čistiji nego na Zemlji.
Sem Altman nudi platu od 555.000 dolara: Traži osobu za odbranu čovečanstva od veštačke inteligencije
30.12.2025.•
5
Proizvođač ChatGPT-a oglasio je slobodno radno mesto sa godišnjom platom od 555.000 dolara, uz opis posla koji bi naterao i Supermena da duboko udahne.
Naučnici: Svemiru preti Veliko sažimanje
29.12.2025.•
1
U naučnoj zajednici raste polemika nakon novih istraživanja koja ukazuju da bi tamna energija, misteriozna sila odgovorna za ubrzano širenje svemira, mogla da se promeni tokom vremena.
VIDEO: U svemir lansiran prvi crnogorski satelit
29.12.2025.•
4
Prvi crnogorski satelit "Luča" lansiran je u svemir sa ruskog kosmodroma Vostočni raketom Sojuz, objavila je organizacija Montenegro Space Research.
Turski bespilotni borbeni avioni izveli prvi autonomni formacijski let
28.12.2025.•
0
Turski bespilotni borbeni avion Bajraktar kizilelma ostvario je novi tehnološki iskorak pošto su tokom probnog leta prvi put u istoriji dva bespilotna borbena aviona autonomno izvela bliski formacijski let.
Superračunari otkrili šta se zaista dešava u blizini crne rupe
28.12.2025.•
1
Pogranična područja crnih rupa trebalo bi da budu haotični prostori u kojima je brzina kojom se materija uvlači u zaborav ograničena samo zaslepljujućim besom zračenja koje se izliva sa ivice tame.
VIDEO: Kina postigla rekordnih 800km/h na testu voza velike brzine
28.12.2025.•
0
Laboratorija "Hubei east lake" u centralnoj Kini je objavila revolucionarno dostignuće u tehnologiji za voz velike brzine, koji je na testu postigao 800 kilometara na sat za samo 5,3 sekunde.
Google dozvolio promenu primarne Gmail adrese
28.12.2025.•
0
Američka tehnološka kompanija Google je, prvi put od osnivanja Gmail servisa 2004. godine, dozvolila korisnicima da promene svoju primarnu mejl adresu.
Više od petine sadržaja koji se nudi novim korisnicima Youtube-a napravila veštačka inteligencija
28.12.2025.•
0
Istraživanje kompanije za video montažu Kapwing pokazalo je da je više od 20 odsto video snimaka koje Youtube algoritam prikazuje novim korisnicima sadržaj niskog kvaliteta generisan veštačkom inteligencijom (AI).
Otkrivena planeta u obliku limuna koja možda ima nalazišta dijamanata
28.12.2025.•
0
Atmosfera planete u obliku limuna, pod nazivom PSR J2322-2650 b, koja je uz pomoć Veb teleskopa otkrivena 2017. godine kako kruži oko pulsara, sastoji se pretežno od helijuma i ugljenika.
Kako će neke parcele na Mesecu postati groblja svemirskih letelica
25.12.2025.•
0
Kako broj lunarnih satelita raste, biće označena mesta na koja se može srušiti nefunkcionalna oprema.
Rusija planira da postavi nuklearnu elektranu na Mesecu
24.12.2025.•
1
Rusija planira da postavi nuklearnu elektranu na Mesecu u narednoj deceniji kako bi snabdevala svoj lunarni svemirski program i zajedničku rusko-kinesku istraživačku stanicu, saopštio je Roskosmos.
Nova opcija na ChatGPT - godišnji pregled aktivnosti
24.12.2025.•
0
Kompanija za razvoj veštačke inteligencije Open AI predstavila je novu funkciju godišnjeg pregleda aktivnosti za korisnike alata ChatGPT.
Kineski naučnici razvili sigurnije litijum-jonske baterije koje smanjuju rizik od požara
23.12.2025.•
0
Kineski istraživači sa Univerziteta u Hongkongu razvili su novu vrstu litijum-jonske baterije koja značajno smanjuje rizik od pregrevanja i opasnost od požara.
Nova studija: Zemljina atmosfera "curi" na Mesec
21.12.2025.•
0
Magnetno polje naše planete moglo bi biti ono što usmerava čestice iz Zemljine atmosfere na površinu Meseca.
VIDEO Roboti oduševili na koncertu u Kini: Pogledajte kako su plesali sa ljudskim izvođačima
21.12.2025.•
1
Humanoidni roboti kineske kompanije Unitree ponovo su privukli veliku pažnju javnosti, ovoga puta nastupom na velikoj muzičkoj sceni u Kini.
Astronomi otkrili debeo atmosferski omotač oko stenovite planete
20.12.2025.•
0
Astronomi su otkrili debeo atmosferski omotač oko male, stenovite planete koja nalikuje lopti od užarene lave, a nalazi se izvan Sunčevog sistema i udaljena je 280 svetlosnih godina od Zemlje.
Pametni telefoni bi mogli da poskupe za skoro sedam odsto u 2026. zbog nestašice čipova
20.12.2025.•
0
Pametni telefoni bi mogli da u proseku poskupe za 6,9 odsto u 2026. zbog nestašice memorijskih čipova koja je izazvana snažnom potražnjom iz sektora veštačke inteligencije, navodi se u istraživanju Counterpoint Research.
VIDEO: Japanka se "udala" za ChatGPT lik
20.12.2025.•
1
Japanka Jurina Noguči (32) održala je proteklog leta simboličnu ceremoniju venčanja sa Lune Klausom Verdurom, likom generisanim pomoću veštačke inteligencije zasnovanim na ChatGPT-u i liku iz video igre.
Prva odbegla supermasivna crna rupa juri kroz svemir
20.12.2025.•
1
S vremena na vreme, neki zvezdani objekat bude uhvaćen kako juri kroz svemir kao zec - mnogo kasni na veoma važan sastanak.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar