Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Foto: Pixabay (ilustracija)
Kako ističe tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.
Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.
Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".
On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.
Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.
"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Bendžo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.
Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.
Pročitaj još
Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.
Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.
Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.
Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.
Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.
Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Istraživanje: Digitalni alati povećavaju stres i smanjuju efikasnost zaposlenih
05.04.2026.•
0
Prosečan zaposleni gubi između 1,3 i 1,5 radnih dana mesečno zbog takozvane digitalne frikcije, odnosno učenja digitalnih sistema i ovladavanjem loše uvedenih AI alata koje u realnom poslu nikada ne upotrebi.
Astronautima misije Artemis se pokvario toalet na putu ka Mesecu
05.04.2026.•
14
Na manje od pola puta do Meseca, astronauti misije Artemis II spremni su za istorijski obilazak oko Zemljinog prirodnog satelita koji će ih odvesti u svemir dublje čak i od posade misije Apolo pre više od pola veka.
Naučnici stvorili neurorobote sa osnovnim nervnim sistemom
05.04.2026.•
0
Naučnici Univerziteta Tafts i Instituta Rais napravili su biološke "neurorobote" koristeći ćelije afričke žabe koji pokazuju znakove osnovnog "ponašanja" i električne aktivnosti u mrežama neuronskih ćelija.
Srbija uz pomoć Kine pravi svoj satelit: "Naša zemlja se uključuje u razvoj svemirskih tehnologija"
05.04.2026.•
10
Savetnik ministra u Ministarstvu nauke, tehnološkog razvoja i inovacija Zoran Tomić izjavio je da će se Srbija projektom "Mozaik" i pravljenjem svog satelita uključiti u razvoj svemirskih tehnologija.
VIDEO: U Kini stotine autonomnih vozila otkazalo usred vožnje zbog sistemskog kvara
02.04.2026.•
0
Masovni kvar robotaksija u kineskom gradu Vuhan doveo je do zaustavljanja najmanje stotinu autonomnih vozila usred saobraćaja, saopštile su lokalne vlasti dodajući da nije bilo povređenih.
VIDEO Prvi put nakon 50 godina: Artemis i zvanično poleteo ka Mesecu - pratite uživo
02.04.2026.•
4
Četvoro astronauta poletelo na Artemis II, prvoj misiji sa posadom ka Mesecu posle 50 godina.
Virgin Galactic ponovo nudi turističke letove u svemir za 750.000 dolara
01.04.2026.•
1
Kompanija za svemirski turizam Ričarda Bransona, Virgin Galactic, ponovo je otvorila ograničenu prodaju karata nakon skoro dvogodišnje pauze - po ceni od 750.000 dolara po mestu.
VIDEO: Prvi komercijalni računar u SAD je imao 13 tona i koštao tadašnjih milion dolara
01.04.2026.•
1
UNIVAC (akronim za Universal Automatic Computer) bio je prvi komercijalno dostupan računarski sistem u Sjedinjenim Američkim Državama, označavajući početak ere računarske industrije.
Meta počela sa testiranjem premijum pretplate za Instagram
01.04.2026.•
0
Američka tehnološka kompanija Meta potvrdila je da je počela sa testiranjem premijum pretplate na društvenu mrežu Instagram u nekoliko zemalja.
OpenAI odustao od još jednog projekta: Ništa od erotskog ChatGPT
31.03.2026.•
0
OpenAI je stavio tačku na još jedan projekat, barem za sada.
Kad bi Sunce nestalo: Koliko vremena bi nam trebalo da to saznamo i šta bi se desilo sa Zemljom?
31.03.2026.•
4
Sunce je stalni pratilac Zemlje još otkako je naša planeta nastala. Ali ako bi Sunce iznenada nestalo, šta bi se dogodilo sa našom planetom?
U sredu novi pokušaj lansiranja astronauta ka Mesecu
31.03.2026.•
2
NASA priprema lansiranje na Mesec svemirske misije Artemis sa prvom ljudskom posadom posle više od 53 godine, preneli su američki mediji.
Džinovske crne rupe mogu da zaustave rađanje zvezda u svemiru
30.03.2026.•
0
Ogromne crne rupe mogle bi da utiču na razvoj čitavih galaksija, pa čak i da "utišaju" formiranje novih zvezda u njihovoj okolini, pokazuje novo istraživanje.
Izuzetno retka zvezda čuva tragove prve svetlosti univerzuma
30.03.2026.•
0
Nekada davno, pre milijarde godina, univerzum je bio obavijen tamom. Tek kada su prve zvezde počele da sijaju, svemir je postao providan i svetlost je počela da teče.
Wikipedia zabranila korišćenje veštačke inteligencije za pisanje članaka
29.03.2026.•
0
Internet enciklopedija Wikipedia zabranila je korišćenje veštačke inteligencije za pisanje ili prepravljanje članaka.
Nebeski događaji u aprilu: ružičasti pun Mesec, kometa, pravnanje planeta i meteori
29.03.2026.•
0
April donosi niz zanimljivih astronomskih pojava koje će biti vidljive i iz Srbije, pružajući ljubiteljima neba priliku da bez posebne opreme posmatraju neke od najlepših prizora u godini.
Naučnici su klonirali miša, zatim klonirali klon, i tako dalje...Rezultati su bili dobri
29.03.2026.•
0
U eksperimentu koji je trajao dve decenije, japanski istraživači su klonirali jednu ženku miša, a zatim klonirali njene klonove, kroz 58 uzastopnih generacija.
Munje na Jupiteru mogle bi biti i do milion puta jače nego na Zemlji
29.03.2026.•
0
Munje na Jupiter mogle bi imati više od 100 puta veću snagu od munja na Zemlji, a možda su čak i do milion puta jače, pokazuje nova studija.
Odjednom nije mogao da govori: Misteriozna zdravstvena kriza astronauta NASA-e
29.03.2026.•
0
Astronaut koji je ove godine izazvao prvu medicinsku evakuaciju NASA-e rekao je da lekari i dalje ne znaju zašto mu je iznenada pozlilo na Međunarodnoj svemirskoj stanici.
Whatsapp uvodi AI odgovore na poruke i nove opcije za uređivanje fotografija
29.03.2026.•
0
Američka tehnološka kompanija Meta saopštila je da u svoju platformu Whatsapp uvodi niz novih funkcija, uključujući AI predloge odgovora koji se generišu na osnovu sadržaja prethodnog razgovora.
Studija sa Stanforda: Četbotovi nam se toliko ulizuju da daju pogrešne odgovore i savete
29.03.2026.•
0
Četbotovi sa veštačkom inteligencijom su toliko skloni laskanju i potvrđivanju svojim korisnicima, ljudima, da im daju loše savete koji mogu oštetiti odnose i pojačati štetna ponašanja.
Komentari 1
Ajnstajn
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar