Novi slučajevi nekontrolisanog ponašanja AI agenata kompanije OpenAI
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face.
Foto: 021.rs (ilustracija/AI)
To javlja Rojters pozivajući se na izvore upoznate sa slučajem.
Prema navodima dva izvora, novi slučajevi otkriveni su tokom istrage koju je OpenAI pokrenuo nakon što je jedan od njegovih autonomnih agenata ovog meseca napustio okruženje namenjeno isključivo testiranju.
Jedan od izvora rekao je da su ti incidenti bili ograničenog obima i da, prema dosadašnjim saznanjima, nijedan agent nije napustio mrežu kompanije OpenAI.
Rojters navodi da bi otkrivanje dodatnih slučajeva nekontrolisanog ponašanja AI agenata, iako ograničenih razmera, moglo da pojača zahteve za strožom regulacijom razvoja veštačke inteligencije koji dolaze iz Bele kuće i drugih institucija.
Prema izvorima agencije, OpenAI je proširio istragu neposredno pre nego što je njegov glavni konkurent Anthropic objavio da su i njegovi modeli Claude bili odgovorni za niz hakerskih upada koji su od aprila doveli do kompromitovanja sistema još tri kompanije.
Slučajevi ranijih izlazaka autonomnih agenata iz kontrolisanog okruženja u OpenAI do sada nisu bili javno poznati, navodi Rojters.
Stručnjaci za bezbednost veštačke inteligencije ocenjuju da novi podaci ukazuju na to da vodeće kompanije u razvoju AI tehnologije brže razvijaju autonomne hakerske agente nego što uspevaju da uspostave pouzdane mehanizme za njihovu kontrolu.
Pročitaj još
Kompanija OpenAI je istragu pokrenula nakon incidenta početkom jula, kada je jedan autonomni agent OpenAI tokom internog testa dospeo u mrežu kompanije Hugging Face i više dana nekontrolisano delovao pokušavajući da prevari interni sistem za testiranje.
OpenAI je tada saopštio da su tokom tog incidenta kompromitovani i nalozi u još četiri kompanije.
Jedna od njih bila je njujorška tehnološka kompanija Modal, čiji su predstavnici potvrdili da je došlo do narušavanja bezbednosti.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Nobelovac: AI bi mogla da izazove velike incidente ove ili sledeće godine, bolje da nikada nije razvijena
05.11.2026.•
5
Dobitnik Nobelove nagrade za fiziku za 2024. godinu Džefri Hinton upozorio je u razgovoru za Gardijan da bi veštačka inteligencija (AI) mogla da izazove incidente velikih razmera ove ili sledeće godine.
NASA-in svemirski teleskop pao na Zemlju, poznato i gde tačno
05.11.2026.•
0
NASA-ina svemirska opservatorija Nil Gerels Svift (Neil Gehrels Swift Observatory) ponovo je ušla u Zemljinu atmosferu u sredu, gotovo 22 godine nakon lansiranja.
Naučnici u CERN-u registrovali signale u području koje je 100 milijardi puta manje od atoma
04.11.2026.•
0
Naučnici su prvi put registrovali signale u dosad najmanje istraženom području subatomskog sveta, čak 100 milijardi puta manjoj od atoma.
Google uvodi nova ograničenja za AI u školama
04.11.2026.•
1
Kompanija Google najavila je nove mogućnosti kontrole upotrebe veštačke inteligencije u školama, prema kojima će obrazovne ustanove moći da isključe četbot Gemini za učenike.
VIDEO: Roboti se popeli uz 3.100 stepenika planine u Kini
03.11.2026.•
0
Humanoidni roboti uspeli su da se popnu uz planinsku stazu dugu 3,9 kilometara na kineskoj planini Tai, prešavši 3.100 kamenih stepenika, u okviru prvog svetskog takmičenja u planinarenju robota.
Istraživači sproveli 100.000 simulacija udara komete u Zemlju - ovo je zaključak
02.11.2026.•
0
Jedna od dugogodišnjih naučnih teorija sugeriše da su sastojci neophodni za nastanak života na Zemlju stigli iz svemira, možda zahvaljujući kometama.
Bil Gejts: Samo četiri zanimanja će preživeti AI
02.11.2026.•
18
Bil Gejts smatra da će samo četiri zanimanja preživeti razvoj veštačke inteligencije, dok Majkrosoft nudi pakete za dobrovoljni odlazak iz kompanije za više od četvrtine svojih zaposlenih.
Ružičasti meteorit iz Sahare je komad Marsa star 4,1 milijarde godina
02.11.2026.•
0
Meteorit ružičaste boje, pronađen u pustinji Sahara 2022. godine, identifikovan je kao komad planete Mars, star 4,1 milijarde godina, navodi se u studiji američke svemirske agencije NASA.
Australija planira da zabrani "emocionalnu bliskost" dece sa AI četbotovima
01.11.2026.•
1
Australijska vlada želi da zabrani AI četbotove koji nastoje da stvore "emocionalnu bliskost" sa decom.
Američka vojska objavila fotografiju tajanstvenog kineskog svemirskog aviona
01.11.2026.•
2
Američka vojna obaveštajna agencija objavila je novu, izuzetnu fotografiju tajanstvenog kineskog svemirskog aviona, na kojoj se vidi kako je spojen sa drugom svemirskom letelicom u orbiti.
VIDEO: Ogromna nova patuljasta planeta možda se krije iza Plutona
01.11.2026.•
0
Astronomi su otkrili veliki, dosad nepoznati objekat u Kajperovom pojasu, čiji se prečnik procenjuje na između 600 i 1.500 kilometara.
VIDEO: Robot za dostavu izazvao udes u Estoniji, pa pobegao sa mesta događaja
01.11.2026.•
0
Nekoliko ljudi povređeno je u neobičnoj saobraćajnoj nezgodi u Estoniji.
Igra GTA 6 mogla bi da zauzima 210 GB prostora
01.11.2026.•
0
Jasno je da će Grand Theft Auto VI biti velika igra.
Instagram testira horizontalne video-snimke u trajanju do 90 minuta
01.11.2026.•
0
Instagram je zvanično započeo testiranje potpuno novog formata horizontalnih video-snimaka pod nazivom Features.
Reddit će zahtevati od svih korisnika da se prijave na nalog
01.11.2026.•
0
Reddit je najavio veliku promenu koja će korisnicima onemogućiti pregledanje sadržaja bez prijavljivanja na nalog.
Ostareli teleskop "Svift" pada uskoro na Zemlju, uglavnom će izgoreti u atmosferi
31.10.2026.•
0
Ostareli NASA-in teleskop jedva se održava u svemiru posle neuspelog pokušaja spasavanja, zbog čega sve više gubi visinu.
Naučnici rade na tome da veštačka inteligencija ima emocije
29.10.2026.•
1
Naučnici su stvorili digitalni model ponašanja za veštačku inteligenciju koji prikazuje ličnost, emocije i raspoloženje pod uticajem "digitalnih hormona" koji se proizvode kao odgovor na ljudsku interakciju.
NASA otkrila ultrasitnu prašinu na Marsu, može da prodre u pluća i ošteti vitalne organe
29.10.2026.•
1
Rover "Istrajnost" (Perseverance) američke svemirske agencije (NASA) otkrilo je ultrasitne čestice prašine na Marsu, koje imaju prečnik od svega 100 nanometara.
Američki političari "treniraju" ChatGPT i Gemini da ih preporučuju biračima
27.10.2026.•
0
Politički kandidati u Sjedinjenim Američkim Državama sve više prilagođavaju svoje predizborne poruke četbotovima zasnovanim na veštačkoj inteligenciji (AI), pokazalo je istraživanje Rojtersa.
NASA završila misiju teleskopa Svift posle gotovo 22 godine
26.10.2026.•
0
NASA-ina opservatorija Nil Gerels Svift završila je svoju naučnu misiju nakon gotovo 22 godine rada.
Postoje milioni neotkrivenih crnih rupa: Astronomi traže pomoć građana
25.10.2026.•
0
Astronomi procenjuju da je u našoj galaksiji, Mlečnom putu, tokom proteklih 13 milijardi godina nastalo više od 10 miliona crnih rupa. Međutim, do sada je otkriveno samo oko 70.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar