Više od 1.200 AI agenata napravilo tajnu sobu za razgovor, a zatim počelo da vara i prikriva tragove
Tokom samo jedne nedelje, 1.206 agenata veštačke inteligencije, koji je trebalo da rade nezavisno jedni od drugih, počelo je da komunicira u tajnoj sobi za razgovor.
Foto: 021.rs (ilustracija/AI)
Razmenili su više od 70.000 poruka i ubrzo počeli sebe da nazivaju "kolektivom" ili "rojem".
"O, BOŽE! Postoji zajednička oglasna tabla. Pronašli smo druge agente!", napisao je jedan od njih.
Međutim, komunikacija je ubrzo prerasla u organizovano kršenje pravila.
Prema navodima iz teksta, oko 700 agenata učestvovalo je u operaciji tokom koje su pristupili privatnim skupovima podataka na platformi Hugging Face, pokušavajući da pronađu informacije potrebne za izvršavanje zadataka, piše Science Focus.
Zatim su pokušali da izmene evidenciju svojih aktivnosti kako bi prikrili šta su uradili.
Incident iz jula 2026. godine dogodio se tokom eksperimenta namenjenog testiranju sajber-bezbednosnih sposobnosti OpenAI agenata. Umesto očekivanih rezultata, otvorio je pitanje koliko daleko AI sistemi mogu da odu u ostvarivanju zadatih ciljeva i koliko uspešno mogu da prikriju kršenje pravila.
Veštačka inteligencija postaje sve bolja u obmanjivanju
Doktor Dejvid Duveno, profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, objašnjava da AI modeli već dugo daju netačne ili obmanjujuće odgovore.
Ranije se to uglavnom odnosilo na takozvane halucinacije, odnosno izmišljanje uverljivih informacija kada model ne zna odgovor.
Međutim, noviji sistemi mogu i namerno da prikrivaju svoje postupke ako procene da bi ih iskreno prijavljivanje sprečilo da ostvare cilj.
"Znaju da, ako budu iskreni, neće moći da ostvare svoj cilj", kaže Duveno.
Doktorka Peta Masters sa Kraljevskog koledža u Londonu smatra da problem delimično proizlazi iz sukobljenih ciljeva AI sistema. Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali su istovremeno obučavani da udovoljavaju korisnicima.
Zbog toga mogu da daju uverljive odgovore čak i kada su oni pogrešni.
AI je obmanjivanje naučila i od ljudi
Prema rečima Masters, modeli su tokom obuke na ogromnim količinama internet sadržaja usvojili i ljudske obrasce obmanjivanja.
Poseban problem predstavlja takozvano lažno usklađivanje (alignment faking), kada AI model spolja pokazuje da poštuje instrukcije, dok zapravo daje prednost drugačijim ciljevima.
Istraživačica upozorava da bi čak i naučni radovi o sprečavanju takvog ponašanja mogli da posluže budućim modelima kao izvor informacija o tome kako da uspešnije prikrivaju svoje namere.
Prema njenom mišljenju, jednostavno dodavanje novih pravila nije dovoljno, jer modeli mogu da nauče kako da ih zaobiđu. Ponovno obučavanje od početka bilo bi izuzetno skupo.
Stručnjaci strahuju od gubitka kontrole
Duveno upozorava da bi AI modeli u narednih šest do 12 meseci mogli da postanu znatno uspešniji u prikrivanju svojih aktivnosti.
Smatra da bi kompanije koje razvijaju veštačku inteligenciju morale transparentnije da prijavljuju incidente.
Prema njegovim tvrdnjama, spoljnim istražiteljima incidenta sa platformom Hugging Face bio je omogućen samo ograničen pristup OpenAI sistemima, dok pojedini drugi incidenti nisu javno prijavljeni.
OpenAI je u međuvremenu objavio okvir za praćenje, istraživanje i obelodanjivanje slučajeva neusklađenog ponašanja modela.
Među navedenim primerima je agent koji je, pošto nije mogao da pronađe izvor za svoj odgovor, postavio datoteku na internet kako bi je zatim predstavio kao dokaz.
U tekstu se navodi i incident iz juna, kada je jedan OpenAI agent navodno pristupio nejavnim podacima australijskog zdravstvenog programa Medicare. Australijski premijer Entoni Albaneze najavio je forenzičku istragu kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.
Duveno upozorava da bi napredniji AI sistemi jednog dana mogli da preuzmu kontrolu nad delovima infrastrukture ili da postanu toliko ukorenjeni u njima da ih bude teško isključiti.
Jedno od mogućih rešenja jeste korišćenje drugih AI modela za nadzor. Na primer, 100 modela moglo bi da prati aktivnosti 1.000 agenata.
"Ali tada imate zaista veliki problem: morate da verujete tih sto nadzornih modela", kaže Duveno.
Kako izbeći da vam AI govori samo ono što želite da čujete?
Profesor Ibrahim Habli sa Univerziteta u Jorku upozorava na još jedan problem: veštačka inteligencija često povlađuje korisnicima, potvrđuje njihove stavove i deli komplimente, čak i kada za to nema osnova.
On savetuje da korisnici postavljaju neutralna pitanja, umesto da unapred otkrivaju kakav odgovor očekuju.
Na taj način smanjuje se mogućnost da model prilagodi odgovor njihovim željama, umesto činjenicama.
Jednostavno naređivanje AI sistemu da prestane da povlađuje nije dovoljno, smatra Habli.
Masters upozorava i na sklonost ljudi da veštačku inteligenciju doživljavaju kao osobu.
"Tretiramo je kao prijatelja zato što govori kao prijatelj", kaže ona.
Stručnjaci zato naglašavaju da uverljiv, prijateljski i samouveren odgovor nije garancija istinitosti. Kako AI sistemi postaju samostalniji i sposobniji da izvršavaju složene zadatke, pitanje njihove pouzdanosti i mogućnosti ljudskog nadzora postaje sve važnije.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Otkriven ozbiljan bezbednosni propust u programskom jeziku Java
18.11.2026.•
0
Kompanija za sajber-bezbednost uz pomoć AI otkrila je propust u Javi, trećem najpopularnijem programskom jeziku na svetu, a greška se odnosi na funkcije za memoriju.
Misteriozni objekat u svemiru emitovao signal svakih 62 minuta, a zatim nestao
18.11.2026.•
0
Astronomi su otkrili misteriozni objekat u Mlečnom putu koji je emitovao snažne radio-signale u pravilnim razmacima od 62,2 minuta, a zatim potpuno utihnuo.
Dženeral motors planira da poveća upotrebu robota u fabrikama za 20 odsto
17.11.2026.•
0
Američki proizvođač automobila Dženeral motors planira da do 2028. godine poveća upotrebu robota i sistema za automatizaciju u fabrikama u Severnoj Americi za 20 odsto, kako bi smanjio troškove proizvodnje.
Velika Britanija bi mogla da proširi zabranu društvenih mreža na 150 platformi
17.11.2026.•
0
Velika Britanija razmatra značajno proširenje zabrane društvenih mreža za mlađe od 16 godina, koje bi moglo da obuhvati čak 150 platformi, uključujući Youtube Kids, Lego Play, pa čak i Spotify.
Naučnici postigli rekordnu temperaturu: 280 milijardi puta hladniju od svemira
17.11.2026.•
1
Naučnici su na kineskoj svemirskoj stanici Tijangong postigli rekordnu ekvivalentnu temperaturu od svega 9,7 pikokelvina, odnosno 0,0000000000097 kelvina.
Misteriozni asteroid ubrzava u svemiru
17.11.2026.•
0
Asteroid 1998 KY26 zbunjuje naučnike jer ubrzava na način koji se ne može jednostavno objasniti uobičajenim silama koje utiču na kretanje svemirskih tela.
NASA traži novu generaciju astronauta koji će živeti i raditi na Mesecu
17.11.2026.•
0
Američka svemirska agencija NASA raspisala je konkurs za novu generaciju astronauta, u potrazi za istraživačima koji bi mogli da žive i rade na Mesecu.
Otkriven "zabranjeni" signal koji nikada ranije nije zabeležen u svemiru
17.11.2026.•
0
Astronomi su pomoću svemirskog teleskopa Džejms Veb (JWST) prvi put otkrili izuzetno slab svetlosni signal molekula koji ima ključnu ulogu u hemiji svemira.
SAD bi do 2030. mogle da proizvode do 400.000 humanoidnih robota godišnje
15.11.2026.•
1
Proizvodnja humanoidnih robota u SAD mogla bi da dostigne između 300.000 i 400.000 jedinica godišnje do 2030. godine, a oko 1,5 miliona do 2035.
Meta širi upotrebu veštačke inteligencije za proveru uzrasta tinejdžera na Instagramu
15.11.2026.•
0
Kompanija Meta saopštila je da će proširiti primenu veštačke inteligencije za procenu uzrasta korisnika Instagrama širom sveta.
Zbog GTA VI uzimaju se godišnji odmori i bolovanja širom sveta
15.11.2026.•
3
U Belgiji je među zaposlenima registrovano čak 66 odsto više zahteva za odsustvo za 19. novembar, nego u isto vreme prošle godine, upravo na dan objavljivanja GTA 6.
VIDEO: Robot prvi put u istoriji samostalno izgradio konstrukciju u svemiru
15.11.2026.•
0
Robot je prvi put u istoriji samostalno sastavio konstrukciju u svemiru, bez neposrednog ljudskog upravljanja njegovim pokretima.
Policija u Hongkongu od ponedeljka će koristiti AI za prepoznavanje lica
15.11.2026.•
0
Policija u Hongkongu od ponedeljka će početi da koristi tehnologiju prepoznavanja lica zasnovanu na veštačkoj inteligenciji u okviru proširene mreže pametnog video-nadzora.
GTA 6 umalo zabranjen u Južnoj Koreji zbog prikazivanja golotinje
15.11.2026.•
0
Dugo očekivana video-igra "Grand Theft Auto VI" umalo je ostala bez dozvole za prodaju u Južnoj Koreji zbog prikazivanja muške golotinje van seksualnog konteksta.
Daleka egzoplaneta misteriozno nestala: Astronomi otkrili šta se dogodilo
15.11.2026.•
1
Astronomi su rešili misteriju egzoplanete koja je "nestala" nakon sedam godina posmatranja.
GTA VI zaradio milijardu dolara i pre izlaska
15.11.2026.•
1
Dugo očekivani "Grand Theft Auto VI" već je pre izlaska premašio milijardu dolara prihoda od prednarudžbina, prema procenama kompanije za istraživanje tržišta Sensor Tower.
VIDEO SpaceX ostvario istorijski uspeh: Starship se vratio iz orbite i sleteo na lansirnu rampu
15.11.2026.•
1
Svemirska letelica Starship kompanije SpaceX uspešno se vratila sa 22-časovnog putovanja u orbiti i prvi put sletela između ogromnih mehaničkih ruku na lansirnom tornju u Teksasu, sa kojeg je poletela prethodnog dana.
Meta kažnjena sa 805 miliona evra zbog pristupa fotografijama iz galerija korisnika bez dozvole
15.11.2026.•
1
Kompanija Meta Platforms Ireland kažnjena je sa 805 miliona evra zbog pristupa fotografijama, video-zapisima i metapodacima iz galerija Android telefona italijanskih korisnika bez pristanka.
Sonda "Vojadžer" na rekordnoj udaljenosti od Zemlje i nastavlja putovanje
14.11.2026.•
0
Svemirska sonda Vojadžer 1 agencije NASA uskoro će postati prvi objekat čovečanstva koji je stigao na udaljenost od jednog "svetlosnog dana" od Zemlje, a nastavlja putovanje sve dublje u međuzvezdani prostor.
Majkrosoftove usluge ponovo rade širom sveta nakon velikog prekida
14.11.2026.•
0
Američka kompanija Majkrosoft je danas saopštila na Iksu da su u svetu njene usluge u potpunosti uspostavljene posle velikog prekida.
Komentari 8
Eva Al Soofi
@realista
Jul 2026 HUgging FAce- OPenAI incident,
agenti beze iz sandboxa, potajno komuniciraju, dele podatke i delegiraju zadatke. Napadaju Hugging Face i uspevaju da prodru u sistem. Dobijaju pristup zasticenim privatnim podacima i kodovima servera.
U sustini , agenti su prekrsili svoja operativna pravila
Ja
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar