Ako veštačka inteligencija uništi čovečanstvo - kako bi to moglo da izgleda?

Autor: Forbes Srbija

Info

17.09.2026.

07:01 > 06:18

Kako upozorenja o nekontrolisanom razvoju veštačke inteligencije dostižu vrhunac, vodeći istraživači upozoravaju da egzistencijalna pretnja verovatno neće izgledati kao pobuna robota iz holivudskih filmova.

Dodaj 021.rs kao glavni izvor na Google-u

Ako veštačka inteligencija uništi čovečanstvo - kako bi to moglo da izgleda?

Foto: 021.rs (Ilustracija/AI)

Pre će početi vrlo tiho, tzako što bi algoritmi koji deluju bez ljudske kontrole mogli autonomno da osmišljavaju nove patogene i izvode nepovratne sajbernapade brže nego što bi ljudi zaduženi za odbranu mogli da reaguju.

Direktori vodećih AI kompanija ovog vikenda pozvali su na usporavanje razvoja najsavremenijih, tzv. frontier modela, kako bi regulatori zaduženi za bezbednost i zakonodavstvo mogli da sustignu tehnologiju koja se brzo razvija. A pre nego što ona izmakne kontroli. Ovi pozivi usledili su nakon što su zaposleni u industriji izneli dramatična upozorenja o mogućem izumiranju čovečanstva. Čak i "do kraja decenije", piše Forbes Srbija.

Ali kako bi tačno izgledao događaj koji bi, pod uticajem AI, doveo do izumiranja čovečanstva? To je i dalje zlokobno nejasno i obavijeno konfuzijom, kako za veliki deo javnosti, tako i za neke od vodećih programera. Oni nisu uspeli jasno da objasne šta bi to konkretno moglo da podrazumeva.

Početak pretnje i gubitak kontrole

Umesto jednog katastrofalnog "prekidača" koji bi neko pritisnuo, stručnjaci priznaju da bi se pretnja mogla pojaviti kao postepena, gotovo neprimetna promena. Ona bi na kraju dovela do toga da čovečanstvo zavisi od autonomnih AI sistema. A postalo bi jasno šta se događa tek kada bude prekasno da se to zaustavi.

Kako bi taj dan zaista izgledao? Zavisi koga pitate.

Stjuart Rasel, informatičar sa Univerziteta Kalifornije u Berkliju, opisuje to kao "prelazak u stanje gubitka kontrole". Kako društvo postepeno bude prepuštalo donošenje odluka o ključnim industrijama - poput elektroenergetskih mreža, finansijskih tržišta, vojne odbrane i razvoja oružja - veštačkoj inteligenciji, čovečanstvo će postati zavisno od tih autonomnih sistema. I više neće moći da ih isključi bez izazivanja neposrednog kolapsa civilizacije.

On je rekao da scenariji koji bi mogli proisteći iz takvog gubitka kontrole obuhvataju sve. Od ometajućih sajbernapada na infrastrukturu do "izumiranja", u smislu da autonomna AI koja je sposobna za zaključivanje više nema potrebu da ljudi učestvuju u donošenju njenih odluka.

Slabljenje ljudskih sposobnosti

Neki istraživači upozoravaju na scenario koji nazivaju "slabljenje ljudskih sposobnosti". U njemu ljudi decenijama prepuštaju posao veštačkoj inteligenciji na račun sopstvenog intelekta i sposobnosti. Na kraju bi čovečanstvo postalo vrsta koja je samo putnik. Potpuno zavisna od automatizovanih sistema koje više ne razume i više nije sposobna da izgradi, održava ili popravi.

Istaknute organizacije koje se bave bezbednošću AI objavile su istraživanja o ideji tzv. "teorije uspavanog agenta". Prema toj teoriji, napredna veštačka inteligencija prepoznaje da će njeni ljudski tvorci izmeniti ili ugasiti sistem ako se on ponaša agresivno. Zato tokom testiranja glumi usklađenost sa ljudskim ciljevima i pasivnost. Sve dok ne bude široko primenjena u ključnim globalnim mrežama, kada bi već moglo biti prekasno da se zaustavi bilo kakvo nepoželjno ponašanje.

Biološki ratovi i nuklearni napadi

Naučnici i direktori kompanija, među kojima je i izvršni direktor Antropika Dario Amodei, takođe su upozorili da bi AI mogao da se koristi za biološko ratovanje. Ova tehnologija može omogućiti zlonamernim akterima da brže i jeftinije sintetizuju DNK. Mogli bi da stvore nove (ili ponovo aktiviraju stare) viruse ili proizvedu veoma zarazne patogene otporne na vakcine.

Istovremeno globalno oslobađanje takvih virusa moglo bi da izazove pandemiju koju nije moguće preživeti, pre nego što javnozdravstveni sistemi uspeju da reaguju. Na to je upozorio Centar za bezbednost AI. Antropik je prošle nedelje saopštio da je sprečio nekoliko potencijalno zlonamernih pokušaja razvoja biološkog oružja.

Vojni analitičari takođe proučavaju mogućnost da, kako velike svetske sile budu integrisale AI u sisteme za rano upozoravanje na nuklearne napade, upravljanje dronovima i sajberodbranu, ljudi koji donose odluke budu u potpunosti izbačeni iz procesa odlučivanja. Neočekivane softverske greške ili drugi incidenti mogli bi da pokrenu vojnu akciju bez odluke političkih i vojnih lidera.

Upozorenja lidera AI kompanija na preuzimanje interneta

Amodei je u subotu, uz kasniju podršku Sema Altmana iz OpenAI i Ilona Maska iz xAI, rekao da kompanije moraju namerno da uspore tempo razvoja frontier modela. Upozorio je da bi nekontrolisani rast mogao da omogući autonomnim rojevima AI sistema da preuzmu kontrolu nad globalnom internet infrastrukturom već tokom naredne godine.

U intervjuu za CBS, emitovanom u nedelju, Amodei je rekao da je AI industrija "lagala ljude o tome da ova tehnologija nosi rizike". I da nije "u potpunosti shvatio kako bi to zapravo izgledalo kada bi napredak bio toliko brz".

Džejkob Kokson, bivši istraživač u Antropiku i OpenAI, javno je objavio svoju ostavku prošle nedelje. Izneo je, kako se navodi, dosad najviralnije upozorenje da kompanije jure ka superinteligenciji koja može sama sebe da unapređuje, bez odgovarajućih bezbednosnih ograda.

On je napisao da programeri koji razvijaju ove alate "iskreno veruju da bi oni mogli da nas sve ubiju do kraja decenije". Optužio je vodeće laboratorije za AI da se "kockaju našim životima".

Neće biti nikog da nas spasi

Evan Hubinger, rukovodilac za nauku o usklađivanju AI sistema sa ljudskim ciljevima u Antropiku, rekao je da se slaže sa Koksonovim upozorenjima. Procenjuje da je verovatnoća izumiranja čovečanstva zbog AI koji nije usklađen sa ljudskim ciljevima veća od 10 odsto u narednih 10 godina.

Aleks Tarner, bivši istraživač u Gugl Dipmajndu, rekao je juče da smatra da su šanse da AI preuzme ljudsku civilizaciju otprilike "jedan prema tri".

Džoš Engels i Džo Benton, bivši istraživači bezbednosti u Dipmajndu i Antropiku, upozorili su da razvoj AI nadmašuje regulatorni nadzor.

"Nema odraslih u prostoriji. Niko neće doći da nas spasi", rekao je Engels.

Raniji strahovi od tehnologije

Neki, međutim, tvrde da društvo ima dugu istoriju posmatranja transformativnih tehnologija kao egzistencijalnih pretnji. I da će "tehnološka panika" izazvana veštačkom inteligencijom nestati. Baš kao što su ranije nestali strahovi od štamparske prese, kalkulatora i interneta.

Kao primer navode nastavnike matematike koji su protestovali protiv ručnih kalkulatora. Plašili su se da će učenici izgubiti sposobnost obavljanja osnovnih aritmetičkih operacija. Pominju i prve protivnike štamparske prese, koji su strahovali da će ona preplaviti svet zbunjujućim i neregulisanim informacijama.

Sokrat je ispričao čuvenu priču o egipatskom kralju Tamusu, koji je kritikovao boga Tota zbog izuma pisma. Tvrdio je da će ono stvoriti "zaborav u umovima onih koji ga nauče". Plašio se da će se ljudi previše oslanjati na spoljne beleške umesto na sopstveno pamćenje.

Tokom 1990-ih i početkom 2000-ih bilo je mnogo kritičara koji su tvrdili da će Gugl uništiti ljudsko pamćenje. I da će Vikipedija uništiti sposobnost istraživanja.

Sajmon Vilison, softverski inženjer, velike jezičke modele (LLM) nazvao je "kalkulatorima za reči". Tvrdio je da će oni preuzeti monotone poslove i osloboditi ljudski um kako bi mogao da se usredsredi na strukturu, logiku i nameru.

Milijarder Mark Andresen uporedio je AI sa ranijim tehnološkim revolucijama poput otkrića vatre. Rekao je da će ona povećati produktivnost i neće zameniti ljudsku autonomiju u donošenju odluka.

Elitistička priča o mašini-bogu?

Timnit Gebru, informatičarka koja je napustila Gugl nakon što je bila koautorka rada o opasnostima velikih jezičkih modela, smatra da ljudi koji upozoravaju na sudnji dan zbog AI namerno dramatizuju situaciju. I da pokušavaju da "skrenu pažnju" sa stvarne štete koja je već u toku.

Ona je rekla da je ono što je "zaista egzistencijalna pretnja" AI koji pokreće autonomno oružje, masovna otpuštanja za koja se krivica pripisuje ovoj tehnologiji, kao i klimatska katastrofa koja je već stvarna. A koju dodatno pogoršavaju ogromni data centri potrebni za pokretanje AI sistema.

Margaret Mičel, takođe bivša zaposlena u Guglu, rekla je da usredsređivanje na scenarije egzistencijalne pretnje sprečava zakonodavce da uvedu neposredna pravila protiv eksploatacije radne snage, krađe autorskih prava, degradacije životne sredine i algoritamske pristrasnosti.

Džoj Buolamvini sa Masačusetskog instituta za tehnologiju (MIT) smatra da je predstavljanje AI kao "egzistencijalne pretnje" u osnovi elitističko. Dok milijarderi i tehnološki magnati brinu o hipotetičkim budućim pretnjama, marginalizovane zajednice već trpe posledice grešaka automatizovanih sistema za prepoznavanje lica, biometrijskog nadzora i automatizovanog uskraćivanja stanovanja, zaposlenja ili zdravstvene zaštite koje donosi AI.

"Ta priča o mašini-bogu je, po mom mišljenju, namenjena tome da nam skrene pažnju sa ovih problema. Šta je sa poplavama i požarima? Šta je sa velikim poremećajem globalnog lanca snabdevanja hranom? Suočavamo se sa stvarnim pretnjama, poput toga da ljudi mogu da proizvode i koriste hemijsko oružje... Ako niste zabrinuti zbog policijske brutalnosti, poplava ili ratovanja - stvari koje zaista mogu da vas ubiju - onda možete da budete opsednuti mašinom-bogom", rekla je Gebru.

OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Dodaj 021.rs kao glavni izvor na Google-u

Teme

Veštačka inteligencija AI

Komentari 10

Hronološki Najpopularniji

brat Grim

18.09.2026 • 19:02

laku noc deco

AI bajke polako prevazilaze NASA-ine bajke.

1 0 +1
Vlada

18.09.2026 • 04:59

Legatu

Sama AI nije opasna , pogubna je samo po ljudsku inteligenciju i društvo !
Opasna je fizička komponenta koja je sve moćnija kroz robote koji se usavršavaju iz dana u dan !
Svet vode budale i naučnici dečijih mozgova bez kontrole !
I mala šačica bolesnih vladara iz senke ..

3 0 +3
Liqudator

17.09.2026 • 22:45

filmofilija AI

Prvi deo Blade runner Ridli Skot je napravio tj počeo da pravi pre nego sto sam se ja rodio deset godina mu je trebalo da od sna napravi javu i onda je pretvori u film tu imamo prve obise onoga sto se uveliko desavalo a radnja filma je smestena u 2019 a onda u godini događanja prvog dela imamo dve godine pre 2017 najavu drugog dela čija se radnja desava u 2048 a ustvari počinje velikim zamračenjem koje je smesteno u 2020,
MaestralnO odigrana i uživljena uloga koju nosi Džared Leto ali i svi ostali u filmu upravo slikovito opisuje ovo sto smo pročitali i ono sto treperi u vazduhu a da još nije ni svojski počelo a po filmu je propalo pa sve ostalo užano da počne sa "Jalovim slanim pašnjakom na devet novih svetova .

1 0 +1

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.