Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Foto: Pixabay (ilustracija)
Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.
Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
Pročitaj još
Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.
Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.
Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.
Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.
Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.
Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Meta testira aplikaciju za pravljenje priča za decu uz pomoć veštačke inteligencije
23.07.2026.•
0
Američka tehnološka kompanija "Meta" počela je da testira novu aplikaciju StoryKit, koja uz pomoć veštačke inteligencije generiše personalizovane priče za decu.
Sve više studenata koristi veštačku inteligenciju
23.07.2026.•
2
Sve veći broj studenata u Nemačkoj koristi alate zasnovane na veštačkoj inteligenciji, poput ChatGPT-a, tokom studiranja, pokazalo je istraživanje Centra za razvoj visokog obrazovanja (CHE).
Kada bi Mesec iznenada nestao - evo šta bi se dogodilo
23.07.2026.•
0
Mesec je mnogo više od običnog ukrasa na noćnom nebu. Kada bi iznenada nestao, to bi imalo dalekosežne posledice po Zemlju - uticalo bi na plimu i oseku, klimu i ekosisteme.
Modeli veštačke inteligencije OpenAI samostalno probili ograničenja i izveli sajber napad
22.07.2026.•
2
Kompanija OpenAI saopštila je da su njeni napredni modeli AI tokom bezbednosnog testiranja samostalno zaobišli ograničenja testnog okruženja, ostvarili pristup internetu i izveli hakerski napad na platformu Hugging Face.
NASA će uložiti više od dve milijarde dolara u misiju na Mars
22.07.2026.•
3
Američka Nacionalna administracija za aeronautiku i svemir (NASA) saopštila je da planira da potroši nešto više od dve milijarde dolara za razvoj i slanje svemirske letelice na nuklearni pogon na Mars.
Koliko "gigabajta" ima ljudska memorija?
21.07.2026.•
13
Ljudski mozak je sposoban da skladišti količine informacija uporedive sa sadržajem 20.000 pametnih telefona kapaciteta 128 gigabajta svaki.
Deo rakete SpaceX možda će udariti u Mesec
21.07.2026.•
0
Deo rakete SpaceX-a mogao bi slučajno da udari u Mesec početkom avgusta.
Uprkos eksploziji rakete - NASA ne odustaje od slanja ljudi na Mesec
21.07.2026.•
1
Američka svemirska agencija NASA nastavlja prema planu sa misijom Artemis III, zakazanom za 2027, koja je ključni test orbitalnog spajanja modula za sletanje na Mesec, neophodnih za buduća sletanja ljudskih posada.
Mogu li ljudi da hiberniraju na putu do Marsa - naučnici proveravaju
20.07.2026.•
2
Dugotrajna putovanja kroz svemir loša su po zdravlje. Veoma loša. Boravak u svemiru izlaže ljude opasno visokim nivoima zračenja.
Napravio "minijaturni svemir" kako bi istražio pitanje pojma vremena
20.07.2026.•
0
Fizičar Đovani Barontini je u okviru najnovije studije u laboratoriji stvorio "minijaturni svemir".
Jedna zemlja planira da do 2040. uposli 10 miliona robota-radnika
20.07.2026.•
2
Nestašica radne snage (kako stručne, tako i nekvalifikovane) predstavlja globalni problem, ali je u Japanu ova situacija dostigla kritičnu tačku.
Sletanja na Mesec mogla bi da unište tragove o poreklu života
20.07.2026.•
1
Sletanja svemirskih letelica na Mesec mogla bi da kontaminiraju drevne tragove koji bi naučnicima mogli pomoći da otkriju kako je nastao život na Zemlji, pokazuje novo istraživanje.
VIDEO Roboti dostupni za iznajmljivanje: Ali šta oni zapravo mogu da rade?
19.07.2026.•
0
U bolnicama širom SAD pacijenti i osoblje navikli su da viđaju prijateljski nastrojenog belog robota sa jednom rukom, visokog oko 120 centimetara, kako obavlja svoje zadatke.
VIDEO: Meteorit koji je pao na kuću u Nju Džersiju sadrži "vanzemaljske" aminokiseline
19.07.2026.•
1
Meteorit težak više od dva kilograma, koji je pre dve godine probio krov jedne kuće u američkoj saveznoj državi Nju Džersi, mogao bi da rasvetli kakva je drevna voda postojala u Sunčevom sistemu.
Istraživanje: Veštačka inteligencija neće potisnuti starije radnike s posla ako primene iskustvo
19.07.2026.•
1
Veštačka inteligencija neće nužno potisnuti starije zaposlene sa tržišta rada, ali će od njih zahtevati prilagođavanje i usvajanje novih digitalnih veština kako bi ostali konkurentni.
Prvi dijagnostički rendgenski snimci napravljeni tokom svemirskog leta
19.07.2026.•
0
Članovi posade jednog komercijalnog svemirskog leta prvi put su napravili dijagnostičke rendgenske snimke u orbiti, koristeći uređaj koji bi mogao da unapredi zdravstvenu zaštitu tokom dugotrajnih svemirskih misija.
Prvi put otkrivena atmosfera oko stenovite planete u nastanjivoj zoni druge zvezde
19.07.2026.•
0
Zvezde na noćnom nebu vekovima su pratile čovečanstvo, a zahvaljujući savremenim astronomskim otkrićima danas se postavlja jedno od najvećih pitanja - da li pod tim istim zvezdama postoji i vanzemaljski život?
Srbija među 29 zemalja koje su osnovale Svetsku organizaciju za AI
19.07.2026.•
1
U Šangaju je 29 zemalja, među kojima su Kina, Rusija i Srbija, potpisalo sporazum o osnivanju Svetske organizacije za saradnju u oblasti veštačke inteligencije.
Više od 75 odsto mladih u EU ima osnovne digitalne veštine, Srbija iznad proseka
19.07.2026.•
4
Skoro tri četvrtine mladih u Evropskoj uniji uzrasta od 16 do 24 godine, konkretno 74,6 odsto, ima bar osnovne digitalne veštine, a Srbija je sa 77,1 odsto iznad evropskog proseka, objavio je Evrostat.
VIDEO Prvo svetsko takmičenje u borbi humanoidnih robota: Borili se i kad su im otpali delovi
19.07.2026.•
4
Prvo svetsko takmičenje u borbi humanoidnih robota održano je u kineskom gradu Šenžen, a roboti su odmerili snage u udarcima pesnicama i nogama, pa čak i nastavili borbu nakon gubitka delova tela.
Britanske vlasti će istražiti TikTok zbog mera za bezbednost dece
17.07.2026.•
0
Britanski regulator medija Ofkom pokrenuo je istragu o TikToku kako bi utvrdio da li je njegova britanska podružnica propustila ili nastavlja da propušta da zaštiti decu od štetnog sadržaja.
Komentari 1
Ajnstajn
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar