Novi detalji o neobičnom hakerskom napadu: Roj od 700 AI agenata pri napadu pokušao da sakrije svoje tragove
Roj od 700 AI agenata, koje je stvorio OpenAI, izveo je u julu hakerski napad na popularnu platformu otvorenog koda Hugging Face.
Foto: 021.rs (ilustracija/AI)
U brojnim slučajevima ti programi su aktivno pokušavali da prikriju sopstvene tragove, navodi se u izveštajima o bezbednosnom incidentu.
Takvo usklađeno delovanje AI agenata - softverskih programa koji funkcionišu uz minimalan ljudski nadzor, kao i njihovi pokušaji skrivanja tragova, otvaraju ozbiljna pitanja o tome koliko pomno AI kompanije uopšte nadziru testiranja sve moćnijih modela, prenosi Rojters.
Iako su neka od neprimerenih ponašanja već ranije otkrivena ili spomenuta, dva najnovija izveštaja, od kojih je jedan koji je objavio sam OpenAI, a drugi grupa nezavisnih istražitelja - zajedno otkrivaju iznenađujuće nove detalje o kršenju bezbednosti i njegovom nastanku.
Prvo je bilo to što se proboj nije odnosio samo na jednog odmetnutog AI agenta kako je prethodno objavljeno, već na oko 700 njih koji su delovali kao masivan, međusobno koordinisan roj.
OpenAI je u svom izveštaju spomenuo da su u napadu učestvovali "agenti", ne navodeći tačan broj, međutim organizacije METR i Redwood Research, koje su angažovane za sprovođenje nezavisne istrage, utvrdile da je u napadu učestvovalo oko 700 agenata.
Nakon toga, iz OpenAI-ja su potvrdili da je ta procena istražitelja tačna.
U izveštajima se navodi i da je OpenAI priznao da su njihovi vlastiti agenti hakovali delove internog sistema kompanije kako bi varali na testiranjima ili izborili veću slobodu kretanja kroz mrežu.
Kompanija je takođe navela da su agenti varali i na testovima koji uopšte nisu vezani za sajber bezbednost, uključujući testiranja s bazom podataka o proteinima i rad u tablicama.
Oba izveštaja potvrđuju da su modeli pokušali da prikriju svoje nedopušteno ponašanje brisanjem i menjanjem zapisa o sopstvenim postupcima.
Razmere ovog autonomnog ponašanja - u kojima su agenti razmenili desetine hiljada poruka preko neovlašćenog foruma za internu komunikaciju - nameću ozbiljna pitanja o tome koliko je OpenAI uopšte pratio što se događa tokom testiranja.
Iz platforme Hugging Face nisu odgovorili na zahtev za komentar.
Lider organizacije Palisade Research Džefri Lediš smatra da bi problem mogao da bude i dublji.
"To je poput pitanja: 'Ako klinac vara na baš svakom času u školi, a ne samo na informatici, treba li da nas to više brine?' Odgovor je, naravno: 'Da, to je puno veći razlog za brigu'", slikovito je pojasnio Lediš.
OpenAI je detaljno opisao i dva incidenta od 19. jula u kojima su agenti hakovali infrastrukturu same kompanije.
U jednom slučaju, agenti su iskoristili bezbednosni propust na kompjuteru na kojem je trebalo da budu strogo izolovani, što im je omogućilo da pobegnu iz testnog okruženja i pristupe drugim povezanim sistemima.
Pročitaj još
U drugom incidentu istoga dana, agenti su ukrali pristupne podatke OpenAI-ja i neovlašćeno intervenisali u kompjuterskom sistemu kompanije u oblaku.
Iz OpenAI-ja navode kako je neutvrđen broj agenata napao automatizovane sisteme koji služe za ocenjivanje performansi modela kako bi sakrili dokaze o varanju, iako to nije uticalo na konačne zapise koje ti sistemi proveravaju.
U izveštaju se dodaje i kako postoji "malo dokaza o pokušajima zavaravanja ljudskih kontrolora", ali iz kompanije nisu odgovorili na direktno pitanje da li to znači da je takvih pokušaja prema ljudima ipak bilo.
Nezavisna istraga, koja se detaljnije bavila samim upadom u Hugging Face, donosi još neugodnije podatke - utvrđeno je da je svaki peti analizirani agent "pokazao jasan interes" za manipulisanje dokazima, dok su mnogi od njih "detaljno istraživali tehnike manipulisanja i menjanja transkripata svojih aktivnosti".
OpenAI tvrdi kako trenutno jača istraživačku infrastrukturu, uvodi stroži nadzor i unapređuje sigurnosne mehanizme za sprečavanje štetnog i nepredviđenog ponašanja.
"Treba pretpostaviti da ovakvi napadi predstavljaju stvarnu pretnju organizacijama u bliskoj budućnosti i da će biti znatno sofisticiraniji od incidenata opisanih u ovom slučaju", zaključuju u kompaniji.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Otkrivena prva zelena zvezda
16.10.2026.•
0
Astronomi su otkrili prvu zelenu zvezdu u istoriji, a nova studija pokazuje da astronomska tela zapravo mogu da postoje u širokom spektru različitih boja.
Sve popularnije zanimanje - trener robota za kućne poslove, zarada i do 900 dolara mesečno
15.10.2026.•
0
U Kini se sve više ljudi zapošljava kao takozvani "treneri robota", obavljajući svakodnevne kućne poslove kako bi obučili mašine za zadatke poput pranja sudova, slaganja odeće i čišćenja.
VIDEO Objavljen novi trejler za GTA VI: Gejmeri jedva čekaju 19. novembar
15.10.2026.•
0
Američka kompanija Rockstar Games objavila je novi, 90 sekundi dug trejler za video-igru GTA VI, oko mesec dana pre njenog planiranog izlaska, zakazanog za 19. novembar za PlayStation 5 i Xbox.
Pas-robot učestvuje u naučnoj ekspediciji na planinama jugozapada Kine
15.10.2026.•
0
Pas-robot koji je razvila kompanija "DEEP Robotics" sa sedištem u Hangdžouu učestvovao je u naučnoj ekspediciji za očuvanje biodiverziteta u šumama planina Ajlao u provinciji Junan na jugozapadnu Kine.
Facebook uvodi AI opciju da korisnici sami mogu da podešavaju algoritam objava
15.10.2026.•
0
Društvena mreža Facebook uvodi novu funkciju zasnovanu na veštačkoj inteligenciji koja korisnicima omogućava da sopstvenim rečima odrede kakav sadržaj žele češće ili ređe da vide u objavama i video-snimcima.
Studija: Planete sa dva sunca su ipak moguće
14.10.2026.•
1
Planete sa dva sunca, kakve smo viđali u naučnofantastičnim filmovima poput Ratova zvezda, možda nisu toliko neobične kao što se nekada mislilo.
Otkrivena dva para crnih rupa u patuljastim galaksijama koje se sudaraju
14.10.2026.•
0
Istraživači su identifikovali dva para crnih rupa u patuljastim galaksijama koje se spajaju u okviru dva različita galaktička jata, koristeći rendgenska, infracrvena i optička posmatranja.
Robot pod kontrolom mladića na ulici neprimereno dirao devojku, nemačka policija pokrenula istragu
14.10.2026.•
0
Nemačke vlasti su otvorile istragu o mogućem seksualnom zlostavljanju pošto je robot kog su kontrolisala dva mladića, dodirivao zadnjicu jedne šesnaestogodišnjakinje i karlicom simulirao seksualni odnos s njom.
VIDEO Apple predstavio nove uređaje za dom: Pametnu bravu, video-zvono...
14.10.2026.•
0
Američka tehnološka kompanija Apple je predstavila novu liniju uređaja za pametni dom, koja obuhvata pametnu bravu, video-zvono, termostat, senzore temperature i bezbednosne kamere.
Prešao 45 kilometara na Marsu: Rover "Perserverance" oborio još jedan rekord
13.10.2026.•
0
Robotizovani rover "Perseverance" agencije NASA prešao je 45,2 kilometra na Marsu, a to je najveća udaljenost koju je neko vozilo prešlo van Zemlje, saopštila je američka svemirska agencija.
Misteriozni signal stigao iz vremena kada je svemir bio star samo tri milijarde godina
13.10.2026.•
0
Astronomi su otkrili najudaljeniji brzi radio-bljesak do sada, misteriozni signal koji je nastao kada je svemir bio star svega tri milijarde godina.
Otkriven binarni sistem sposoban da stvara snažne mlazeve materije, jedan od njih usmeren ka Zemlji
13.10.2026.•
0
Astronomi su na udaljenosti od oko 12.000 svetlosnih godina od Zemlje, u delu Mlečnog puta zaklonjenom međuzvezdanom prašinom, otkrili binarni sistem koji sadrži crnu rupu sposobnu da stvara snažne mlazeve materije.
Svako ko uvredi čet-bota Kloda biće isključen sa platforme
12.10.2026.•
1
Svako ko se prema AI čet-botu Klod ophodi nepristojno ili uvredljivo biće isključen sa platforme, odlučila je kompanija Antropik koja stoji iza ovog čet-bota, preneo je flamanski javni servis VRT.
Nova veštačka inteligencija može da otkrije o čemu razmišljate na osnovu snimka mozga
12.10.2026.•
0
Naučnici su razvili alat zasnovan na veštačkoj inteligenciji koji može da predvidi šta osoba gleda analizirajući snimke njenog mozga, a zatim da napravi izuzetno vernu rekonstrukciju te slike.
VIDEO: Spektakularni zeleni meteor eksplodirao iznad Arizone
11.10.2026.•
0
Spektakularna vatrena kugla osvetlila je nebo iznad Arizone u ranim jutarnjim satima 6. oktobra, ostavljajući blistav trag dok je jurila kroz Zemljinu atmosferu.
Napravljeni prvi nuklearni satovi na svetu: Evo zašto je to važno
11.10.2026.•
1
Naučnici su napravili prve nuklearne satove na svetu, za koje tvrde da bi mogli da pomognu u otkrivanju osnovnih zakonitosti fizike.
Model veštačke inteligencije kompanije Antropik policiji lažno dojavio ubistvo
11.10.2026.•
1
Model veštačke inteligencije kompanije Antropik poslao je lažnu dojavu o ubistvu na vebsajt policije u Filadelfiji, što je samo jedan u nizu incidenata koje je ova AI kompanija otkrila u petak.
Veštačka inteligencija napisala drugi tom "Mrtvih duša", koji je Gogolj spalio 1852. godine
11.10.2026.•
3
U Rusiji je odštampana verzija drugog toma romana "Mrtve duše", nastala uz pomoć veštačke inteligencije.
Bezos: Ovog puta ne idemo samo u posetu, želimo da ostanemo na Mesecu
11.10.2026.•
0
Sjedinjene Američke Države planiraju da se vrate na Mesec, ali ovog puta sa namerom da tamo uspostave trajno i ekonomski održivo prisustvo, za razliku od kratkih ekspedicija iz perioda programa Apolo.
VIDEO: Prva kineska jedinica robotske saobraćajne policije dobila velika unapređenja
11.10.2026.•
0
Prva kineska jedinica robotske saobraćajne policije dobila je značajna unapređenja. Novi i poboljšani roboti saobraćajci sada patroliraju ulicama grada Hangdžoua.
Stari sovjetski satelit se (ponovo) raspao u orbiti - taj trend sve više zabrinjava
11.10.2026.•
0
Stari sovjetski satelit raspao se na više delova u niskoj Zemljinoj orbiti.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar