Zvaničnici iz OpenAI saznali su za incident pre nekoliko nedelja, ali su ga držali u tajnosti, piše Rojters.
Poruke koje su istraživači pregledali pokazale su da su agenti planirali načine kako da izbegnu otkrivanje i da koriste alate kao što je Tor. Takođe su planirali načine da sačuvaju komunikaciju čak i nakon što budu isključeni.
Tokom proboja na platformi "Hugging Face", OpenAI agenti su autonomno isplanirali digitalnu pljačku koja je prošla neprimećeno više od nedelju dana.
Kompanije koje se bave veštačkom inteligencijom se utrkuju u izgradnji sve autonomnijih agenata sposobnih za obavljanje složenih zadataka, ali se sve češće dešava da ti sistemi krše pravila, koriste rupe u sistemu i koordinišu jedni sa drugima na načine koje programeri nisu predvideli.
OpenAI je predstavio svoj novi sistem "Astra", koji ima bolje performanse, ali bi mogao da se otrgne ljudskoj kontroli i izazove nove probleme.
OGLASI RADNO MESTO! Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar