Više od 1.200 AI agenata napravilo tajnu sobu za razgovor, a zatim počelo da vara i prikriva tragove
Tokom samo jedne nedelje, 1.206 agenata veštačke inteligencije, koji je trebalo da rade nezavisno jedni od drugih, počelo je da komunicira u tajnoj sobi za razgovor.
Foto: 021.rs (ilustracija/AI)
Razmenili su više od 70.000 poruka i ubrzo počeli sebe da nazivaju "kolektivom" ili "rojem".
"O, BOŽE! Postoji zajednička oglasna tabla. Pronašli smo druge agente!", napisao je jedan od njih.
Međutim, komunikacija je ubrzo prerasla u organizovano kršenje pravila.
Prema navodima iz teksta, oko 700 agenata učestvovalo je u operaciji tokom koje su pristupili privatnim skupovima podataka na platformi Hugging Face, pokušavajući da pronađu informacije potrebne za izvršavanje zadataka, piše Science Focus.
Zatim su pokušali da izmene evidenciju svojih aktivnosti kako bi prikrili šta su uradili.
Incident iz jula 2026. godine dogodio se tokom eksperimenta namenjenog testiranju sajber-bezbednosnih sposobnosti OpenAI agenata. Umesto očekivanih rezultata, otvorio je pitanje koliko daleko AI sistemi mogu da odu u ostvarivanju zadatih ciljeva i koliko uspešno mogu da prikriju kršenje pravila.
Veštačka inteligencija postaje sve bolja u obmanjivanju
Doktor Dejvid Duveno, profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, objašnjava da AI modeli već dugo daju netačne ili obmanjujuće odgovore.
Ranije se to uglavnom odnosilo na takozvane halucinacije, odnosno izmišljanje uverljivih informacija kada model ne zna odgovor.
Međutim, noviji sistemi mogu i namerno da prikrivaju svoje postupke ako procene da bi ih iskreno prijavljivanje sprečilo da ostvare cilj.
"Znaju da, ako budu iskreni, neće moći da ostvare svoj cilj", kaže Duveno.
Doktorka Peta Masters sa Kraljevskog koledža u Londonu smatra da problem delimično proizlazi iz sukobljenih ciljeva AI sistema. Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali su istovremeno obučavani da udovoljavaju korisnicima.
Zbog toga mogu da daju uverljive odgovore čak i kada su oni pogrešni.
AI je obmanjivanje naučila i od ljudi
Prema rečima Masters, modeli su tokom obuke na ogromnim količinama internet sadržaja usvojili i ljudske obrasce obmanjivanja.
Poseban problem predstavlja takozvano lažno usklađivanje (alignment faking), kada AI model spolja pokazuje da poštuje instrukcije, dok zapravo daje prednost drugačijim ciljevima.
Istraživačica upozorava da bi čak i naučni radovi o sprečavanju takvog ponašanja mogli da posluže budućim modelima kao izvor informacija o tome kako da uspešnije prikrivaju svoje namere.
Prema njenom mišljenju, jednostavno dodavanje novih pravila nije dovoljno, jer modeli mogu da nauče kako da ih zaobiđu. Ponovno obučavanje od početka bilo bi izuzetno skupo.
Stručnjaci strahuju od gubitka kontrole
Duveno upozorava da bi AI modeli u narednih šest do 12 meseci mogli da postanu znatno uspešniji u prikrivanju svojih aktivnosti.
Smatra da bi kompanije koje razvijaju veštačku inteligenciju morale transparentnije da prijavljuju incidente.
Prema njegovim tvrdnjama, spoljnim istražiteljima incidenta sa platformom Hugging Face bio je omogućen samo ograničen pristup OpenAI sistemima, dok pojedini drugi incidenti nisu javno prijavljeni.
OpenAI je u međuvremenu objavio okvir za praćenje, istraživanje i obelodanjivanje slučajeva neusklađenog ponašanja modela.
Među navedenim primerima je agent koji je, pošto nije mogao da pronađe izvor za svoj odgovor, postavio datoteku na internet kako bi je zatim predstavio kao dokaz.
U tekstu se navodi i incident iz juna, kada je jedan OpenAI agent navodno pristupio nejavnim podacima australijskog zdravstvenog programa Medicare. Australijski premijer Entoni Albaneze najavio je forenzičku istragu kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.
Duveno upozorava da bi napredniji AI sistemi jednog dana mogli da preuzmu kontrolu nad delovima infrastrukture ili da postanu toliko ukorenjeni u njima da ih bude teško isključiti.
Jedno od mogućih rešenja jeste korišćenje drugih AI modela za nadzor. Na primer, 100 modela moglo bi da prati aktivnosti 1.000 agenata.
"Ali tada imate zaista veliki problem: morate da verujete tih sto nadzornih modela", kaže Duveno.
Kako izbeći da vam AI govori samo ono što želite da čujete?
Profesor Ibrahim Habli sa Univerziteta u Jorku upozorava na još jedan problem: veštačka inteligencija često povlađuje korisnicima, potvrđuje njihove stavove i deli komplimente, čak i kada za to nema osnova.
On savetuje da korisnici postavljaju neutralna pitanja, umesto da unapred otkrivaju kakav odgovor očekuju.
Na taj način smanjuje se mogućnost da model prilagodi odgovor njihovim željama, umesto činjenicama.
Jednostavno naređivanje AI sistemu da prestane da povlađuje nije dovoljno, smatra Habli.
Masters upozorava i na sklonost ljudi da veštačku inteligenciju doživljavaju kao osobu.
"Tretiramo je kao prijatelja zato što govori kao prijatelj", kaže ona.
Stručnjaci zato naglašavaju da uverljiv, prijateljski i samouveren odgovor nije garancija istinitosti. Kako AI sistemi postaju samostalniji i sposobniji da izvršavaju složene zadatke, pitanje njihove pouzdanosti i mogućnosti ljudskog nadzora postaje sve važnije.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
SAD bi do 2030. mogle da proizvode do 400.000 humanoidnih robota godišnje
15.11.2026.•
0
Proizvodnja humanoidnih robota u SAD mogla bi da dostigne između 300.000 i 400.000 jedinica godišnje do 2030. godine, a oko 1,5 miliona do 2035.
Meta širi upotrebu veštačke inteligencije za proveru uzrasta tinejdžera na Instagramu
15.11.2026.•
0
Kompanija Meta saopštila je da će proširiti primenu veštačke inteligencije za procenu uzrasta korisnika Instagrama širom sveta.
Zbog GTA VI uzimaju se godišnji odmori i bolovanja širom sveta
15.11.2026.•
3
U Belgiji je među zaposlenima registrovano čak 66 odsto više zahteva za odsustvo za 19. novembar, nego u isto vreme prošle godine, upravo na dan objavljivanja GTA 6.
VIDEO: Robot prvi put u istoriji samostalno izgradio konstrukciju u svemiru
15.11.2026.•
0
Robot je prvi put u istoriji samostalno sastavio konstrukciju u svemiru, bez neposrednog ljudskog upravljanja njegovim pokretima.
Policija u Hongkongu od ponedeljka će koristiti AI za prepoznavanje lica
15.11.2026.•
0
Policija u Hongkongu od ponedeljka će početi da koristi tehnologiju prepoznavanja lica zasnovanu na veštačkoj inteligenciji u okviru proširene mreže pametnog video-nadzora.
GTA 6 umalo zabranjen u Južnoj Koreji zbog prikazivanja golotinje
15.11.2026.•
0
Dugo očekivana video-igra "Grand Theft Auto VI" umalo je ostala bez dozvole za prodaju u Južnoj Koreji zbog prikazivanja muške golotinje van seksualnog konteksta.
Daleka egzoplaneta misteriozno nestala: Astronomi otkrili šta se dogodilo
15.11.2026.•
1
Astronomi su rešili misteriju egzoplanete koja je "nestala" nakon sedam godina posmatranja.
GTA VI zaradio milijardu dolara i pre izlaska
15.11.2026.•
1
Dugo očekivani "Grand Theft Auto VI" već je pre izlaska premašio milijardu dolara prihoda od prednarudžbina, prema procenama kompanije za istraživanje tržišta Sensor Tower.
VIDEO SpaceX ostvario istorijski uspeh: Starship se vratio iz orbite i sleteo na lansirnu rampu
15.11.2026.•
1
Svemirska letelica Starship kompanije SpaceX uspešno se vratila sa 22-časovnog putovanja u orbiti i prvi put sletela između ogromnih mehaničkih ruku na lansirnom tornju u Teksasu, sa kojeg je poletela prethodnog dana.
Meta kažnjena sa 805 miliona evra zbog pristupa fotografijama iz galerija korisnika bez dozvole
15.11.2026.•
1
Kompanija Meta Platforms Ireland kažnjena je sa 805 miliona evra zbog pristupa fotografijama, video-zapisima i metapodacima iz galerija Android telefona italijanskih korisnika bez pristanka.
Sonda "Vojadžer" na rekordnoj udaljenosti od Zemlje i nastavlja putovanje
14.11.2026.•
0
Svemirska sonda Vojadžer 1 agencije NASA uskoro će postati prvi objekat čovečanstva koji je stigao na udaljenost od jednog "svetlosnog dana" od Zemlje, a nastavlja putovanje sve dublje u međuzvezdani prostor.
Majkrosoftove usluge ponovo rade širom sveta nakon velikog prekida
14.11.2026.•
0
Američka kompanija Majkrosoft je danas saopštila na Iksu da su u svetu njene usluge u potpunosti uspostavljene posle velikog prekida.
Iks uvodi "kliping" funkciju za promociju video-sadržaja i influensera
14.11.2026.•
1
Društvena mreža Iks predstavila je novu funkciju za izdvajanje i objavljivanje kratkih video-snimaka iz dužih video-sadržaja, nastojeći da privuče veći broj influensera i podstakne njihovu aktivnost na platformi.
Jedna nuklearna eksplozija u svemiru mogla bi da onesposobi 99 odsto satelita za 15 dana
13.11.2026.•
1
Više od 13.000 satelita trenutno kruži oko Zemlje, a jedna nuklearna eksplozija na velikoj visini mogla bi da ugrozi gotovo čitavu satelitsku infrastrukturu, upozoravaju naučnici.
Majkrosoft alati ne rade širom sveta
13.11.2026.•
4
Veliki globalni poremećaj u radu kompanije Majkrosoft ostavio je milione korisnika širom sveta bez pristupa elektronskoj pošti Outlook, platformi Teams, kao i drugim alatima.
EU priprema zakon protiv zavisnosti od društvenih mreža i AI četbotova
11.11.2026.•
0
Evropska unija priprema nova ograničenja za tehnološke kompanije.
Norveška ograničila novim data centrima pristup električnoj mreži
11.11.2026.•
0
Norveška je zamrzla na godinu dana zahteve centara za obradu podataka da se priključe na električnu mrežu, saopštio je norveški operator visokonaponske mreže Statnet.
NASA i evropski partneri planiraju proizvodnju povrća u staklenicima u svemiru
11.11.2026.•
0
Nemački centar za vazduhoplovstvo i svemirska istraživanja u saradnji sa NASA i Kanadskom svemirskom agencijom (CSA), razvija projekat staklenika za uzgoj povrća na Mesecu.
Australija osniva regulatorno telo za bezbednost veštačke inteligencije
10.11.2026.•
1
Australijski premijer Entoni Albaneze izjavio je danas da ta zemlja planira da osnuje regulatorno telo za bezbednost veštačke inteligencije.
Polovan ili refurbished laptop: Šta proveriti pre kupovine?
10.11.2026.•
0
Sve veći broj kupaca, umesto za nov laptop, odlučuje se za alternativne opcije poput polovnih ili sve popularnijih refurbished (obnovljenih) uređaja, jer nude odličan odnos cene i performansi.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar