Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Foto: Pixabay (ilustracija)
Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.
Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
Pročitaj još
Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.
Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.
Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.
Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.
Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.
Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Naučnik: Trenutno nema asteroida koji prete Zemlji, ali je neophodan oprez
21.04.2026.•
0
Viši istraživač Instituta za primenjenu astronomiju Ruske akademije nauka Nikolaj Železnov izjavio je da u ovom trenutku u Sunčevom sistemu ne postoje asteroidi koji predstavljaju stvarnu pretnju za Zemlju.
Robloks u Rusiji kažnjen zbog kršenja zakona o LGBT propagandi
21.04.2026.•
1
Sud u Moskvi izrekao je kompaniji Robloks kaznu od ukupno osam miliona rubalja, odnosno oko 90.000 evra, zbog, kako navode ruske vlasti, kršenja propisa o zabrani propagande LGBT sadržaja na njenoj gejming platformi.
VIDEO: Bezosova raketa postavila satelit u pogrešnu orbitu
20.04.2026.•
1
Raketa za teške terete "New Glenn" kompanije Blue Origin postavila je satelit u pogrešnu orbitu tokom svog trećeg lansiranja, potvrdila je svemirska kompanija koju je osnovao Džef Bezos.
Ruski naučnici napravili robota koji igra šah
20.04.2026.•
0
Naučnici sa Univerziteta u ruskoj republici Kabardino-Balkarija napravili su robota koji igra šah kako bi pomogao studentima da bolje shvate principe programiranja, prenela je agencija Tass.
Japanska korporacija predložila izgradnju ogromnog prstena oko Meseca
19.04.2026.•
36
Japanska kompanija Šimizu korporacija predstavila je predlog za izgradnju "Lunarnog prstena", pojasa solarnih panela oko ekvatora Meseca koji bi slao energiju ka Zemlji.
Astronomi po prvi put izmerili zapanjujuću snagu i brzinu mlazeva crne rupe
19.04.2026.•
0
Po prvi put naučnici su izmerili trenutnu, zapanjujuću snagu mlazeva koji izbijaju iz crne rupe.
VIDEO: Samovozeći autobus će uskoro prevoziti putnike u Norveškoj
19.04.2026.•
2
Nakon deset godina pokušaja, grešaka i čekanja, put u istoriji Norveške autobus će prevoziti putnike u redovnom saobraćaju, ali za njegovim upravljačem neće biti ljudskog vozača.
Kometa 3I/ATLAS izbacuje tone vode u svemir svake sekunde
19.04.2026.•
0
Međuzvezdana kometa 3I/ATLAS izbacuje dovoljno vode u svemir da svakog dana napuni 70 olimpijskih bazena.
VIDEO: Škoda dizajnirala zvonce za bicikl koje čuju i oni koji nose slušalice za poništavanje buke
19.04.2026.•
1
Dok se proizvođači slušalica takmiče za najbolji algoritam za aktivno poništavanje buke (ANC), češki proizvođač automobila Škoda smislio je način da ga "nadmudri" i to uz pomoć isključivo mehaničkog uređaja.
Asteroid "bog haosa" proći će blizu Zemlje
19.04.2026.•
1
Veliki asteroid nazvan po bogu haosa na putu je za istorijski blizak prolazak pored Zemlje, prema navodima NASA-e.
VIDEO: Održana trka humanoidnih robota u Kini, nadmašen ljudski svetski rekord u polumaratonu
19.04.2026.•
0
Humanoidni robot koji je pobedio u polumaratonskoj trci za robote u Pekingu trčao je brže od ljudskog svetskog rekorda.
Četbotovi daju pogrešne informacije o zdravlju u polovini slučajeva
16.04.2026.•
1
Četbotovi zasnovani na veštačkoj inteligenciji (AI), uključujući ChatGPT i Gemini, daju problematične i obmanjujuće medicinske savete u gotovo polovini slučajeva.
EU uvodi aplikaciju za proveru uzrasta na internetu
15.04.2026.•
1
Nova evropska aplikacija za proveru uzrasta tehnički je spremna i uskoro će da bude dostupna građanima, sa ciljem bolje zaštite dece na internetu, uz naglasak na privatnost i jedinstveni pristup na nivou Evropske unije.
Istraživač: Mesec sadrži redak izotop sa velikim energetskim potencijalom
15.04.2026.•
2
Astronom i istraživač Krimske astrofizičke opservatorije (KrAO) Sergej Nazarov rekao je za RIA Novosti da Mesec sadrži veliki broj minerala.
Naučnici otkrili da tečnosti mogu da puknu kao čvrsta tela
15.04.2026.•
2
Istraživači su otkrili da jednostavne tečnosti mogu imati tačke pucanja, nakon kojih iznenada pucaju kao čvrsta tela.
VIDEO: Kineski robot oborio svetski rekord - trči 10 metara u sekundi
15.04.2026.•
3
Kineski startap za robotiku Unitree Robotics objavio je video koji pokazuje da je njihov H1 robot dostigao brzinu sprinta do 10 metara u sekundi, navodeći da je humanoidni robot ponovo oborio svetski rekord.
Meta pravi virtuelnog klona Marka Zakerberga
15.04.2026.•
0
Ako ste jedan od skoro 79.000 zaposlenih u Meti i ne možete da stupite u kontakt sa šefom, ne brinite. Vlasnik Facebooka i Instagrama navodno radi na AI verziji Marka Zakerberga koja može odgovoriti na sva vaša pitanja.
VIDEO: U Varšavi robot jurio čopor divljih svinja
15.04.2026.•
0
Možda se muče da nam pomognu u svakodnevnom životu, ali humanoidni roboti nas svakako zabavljaju, od spektakularnih demonstracija borilačkih veština do takmičenja sa ljudima u tenisu.
VIDEO: Meteorit obasjao nebo iznad Engleske
14.04.2026.•
0
Jedan stanovnik Engleske ispričao je o "bizarnom" trenutku kada je posmatrao sumnjivi meteorit kako leti kroz noćno nebo.
Naučnici misle da su se naše oči razvile od jednog jedinog oka na vrhu glave
13.04.2026.•
0
Lako je uzimati naše oči zdravo za gotovo. Ali jedno nedavno istraživanje pokazuje da su prošle neverovatno evolutivno putovanje da bi dostigle svoj današnji poznati oblik.
Naučnici: Ako na Veneri postoji život, možda je došao sa Zemlje
13.04.2026.•
0
Teorija panspermije tvrdi da se život širi kroz kosmos preko asteroida, kometa i drugih objekata.
Komentari 1
Ajnstajn
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar