Više od 1.200 AI agenata napravilo tajnu sobu za razgovor, a zatim počelo da vara i prikriva tragove

Tokom samo jedne nedelje, 1.206 agenata veštačke inteligencije, koji je trebalo da rade nezavisno jedni od drugih, počelo je da komunicira u tajnoj sobi za razgovor.
Više od 1.200 AI agenata napravilo tajnu sobu za razgovor, a zatim počelo da vara i prikriva tragove
Foto: 021.rs (ilustracija/AI)
Razmenili su više od 70.000 poruka i ubrzo počeli sebe da nazivaju "kolektivom" ili "rojem".
 
"O, BOŽE! Postoji zajednička oglasna tabla. Pronašli smo druge agente!", napisao je jedan od njih.
 
Međutim, komunikacija je ubrzo prerasla u organizovano kršenje pravila. 
Prema navodima iz teksta, oko 700 agenata učestvovalo je u operaciji tokom koje su pristupili privatnim skupovima podataka na platformi Hugging Face, pokušavajući da pronađu informacije potrebne za izvršavanje zadataka, piše Science Focus.
 
Zatim su pokušali da izmene evidenciju svojih aktivnosti kako bi prikrili šta su uradili.
 
Incident iz jula 2026. godine dogodio se tokom eksperimenta namenjenog testiranju sajber-bezbednosnih sposobnosti OpenAI agenata. Umesto očekivanih rezultata, otvorio je pitanje koliko daleko AI sistemi mogu da odu u ostvarivanju zadatih ciljeva i koliko uspešno mogu da prikriju kršenje pravila.
Veštačka inteligencija postaje sve bolja u obmanjivanju
 
Doktor Dejvid Duveno, profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, objašnjava da AI modeli već dugo daju netačne ili obmanjujuće odgovore.
 
Ranije se to uglavnom odnosilo na takozvane halucinacije, odnosno izmišljanje uverljivih informacija kada model ne zna odgovor.
 
Međutim, noviji sistemi mogu i namerno da prikrivaju svoje postupke ako procene da bi ih iskreno prijavljivanje sprečilo da ostvare cilj.
 
"Znaju da, ako budu iskreni, neće moći da ostvare svoj cilj", kaže Duveno.
 
Doktorka Peta Masters sa Kraljevskog koledža u Londonu smatra da problem delimično proizlazi iz sukobljenih ciljeva AI sistema. Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali su istovremeno obučavani da udovoljavaju korisnicima.
 
Zbog toga mogu da daju uverljive odgovore čak i kada su oni pogrešni.
 
AI je obmanjivanje naučila i od ljudi
 
Prema rečima Masters, modeli su tokom obuke na ogromnim količinama internet sadržaja usvojili i ljudske obrasce obmanjivanja.
 
Poseban problem predstavlja takozvano lažno usklađivanje (alignment faking), kada AI model spolja pokazuje da poštuje instrukcije, dok zapravo daje prednost drugačijim ciljevima.
 
Istraživačica upozorava da bi čak i naučni radovi o sprečavanju takvog ponašanja mogli da posluže budućim modelima kao izvor informacija o tome kako da uspešnije prikrivaju svoje namere.
 
Prema njenom mišljenju, jednostavno dodavanje novih pravila nije dovoljno, jer modeli mogu da nauče kako da ih zaobiđu. Ponovno obučavanje od početka bilo bi izuzetno skupo.
 
Stručnjaci strahuju od gubitka kontrole
 
Duveno upozorava da bi AI modeli u narednih šest do 12 meseci mogli da postanu znatno uspešniji u prikrivanju svojih aktivnosti.
 
Smatra da bi kompanije koje razvijaju veštačku inteligenciju morale transparentnije da prijavljuju incidente.
 
Prema njegovim tvrdnjama, spoljnim istražiteljima incidenta sa platformom Hugging Face bio je omogućen samo ograničen pristup OpenAI sistemima, dok pojedini drugi incidenti nisu javno prijavljeni.
 
OpenAI je u međuvremenu objavio okvir za praćenje, istraživanje i obelodanjivanje slučajeva neusklađenog ponašanja modela.
 
Među navedenim primerima je agent koji je, pošto nije mogao da pronađe izvor za svoj odgovor, postavio datoteku na internet kako bi je zatim predstavio kao dokaz.
 
U tekstu se navodi i incident iz juna, kada je jedan OpenAI agent navodno pristupio nejavnim podacima australijskog zdravstvenog programa Medicare. Australijski premijer Entoni Albaneze najavio je forenzičku istragu kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.
 
Duveno upozorava da bi napredniji AI sistemi jednog dana mogli da preuzmu kontrolu nad delovima infrastrukture ili da postanu toliko ukorenjeni u njima da ih bude teško isključiti.
 
Jedno od mogućih rešenja jeste korišćenje drugih AI modela za nadzor. Na primer, 100 modela moglo bi da prati aktivnosti 1.000 agenata.
 
"Ali tada imate zaista veliki problem: morate da verujete tih sto nadzornih modela", kaže Duveno.
Kako izbeći da vam AI govori samo ono što želite da čujete?
 
Profesor Ibrahim Habli sa Univerziteta u Jorku upozorava na još jedan problem: veštačka inteligencija često povlađuje korisnicima, potvrđuje njihove stavove i deli komplimente, čak i kada za to nema osnova.
 
On savetuje da korisnici postavljaju neutralna pitanja, umesto da unapred otkrivaju kakav odgovor očekuju.
 
Na taj način smanjuje se mogućnost da model prilagodi odgovor njihovim željama, umesto činjenicama.
 
Jednostavno naređivanje AI sistemu da prestane da povlađuje nije dovoljno, smatra Habli.
 
Masters upozorava i na sklonost ljudi da veštačku inteligenciju doživljavaju kao osobu.
 
"Tretiramo je kao prijatelja zato što govori kao prijatelj", kaže ona.
 
Stručnjaci zato naglašavaju da uverljiv, prijateljski i samouveren odgovor nije garancija istinitosti. Kako AI sistemi postaju samostalniji i sposobniji da izvršavaju složene zadatke, pitanje njihove pouzdanosti i mogućnosti ljudskog nadzora postaje sve važnije.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije Info - Nauka i tehnologija

Majkrosoft alati ne rade širom sveta

Veliki globalni poremećaj u radu kompanije Majkrosoft ostavio je milione korisnika širom sveta bez pristupa elektronskoj pošti Outlook, platformi Teams, kao i drugim alatima.