Novi slučajevi nekontrolisanog ponašanja AI agenata kompanije OpenAI
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face.
Foto: 021.rs (ilustracija/AI)
To javlja Rojters pozivajući se na izvore upoznate sa slučajem.
Prema navodima dva izvora, novi slučajevi otkriveni su tokom istrage koju je OpenAI pokrenuo nakon što je jedan od njegovih autonomnih agenata ovog meseca napustio okruženje namenjeno isključivo testiranju.
Jedan od izvora rekao je da su ti incidenti bili ograničenog obima i da, prema dosadašnjim saznanjima, nijedan agent nije napustio mrežu kompanije OpenAI.
Rojters navodi da bi otkrivanje dodatnih slučajeva nekontrolisanog ponašanja AI agenata, iako ograničenih razmera, moglo da pojača zahteve za strožom regulacijom razvoja veštačke inteligencije koji dolaze iz Bele kuće i drugih institucija.
Prema izvorima agencije, OpenAI je proširio istragu neposredno pre nego što je njegov glavni konkurent Anthropic objavio da su i njegovi modeli Claude bili odgovorni za niz hakerskih upada koji su od aprila doveli do kompromitovanja sistema još tri kompanije.
Slučajevi ranijih izlazaka autonomnih agenata iz kontrolisanog okruženja u OpenAI do sada nisu bili javno poznati, navodi Rojters.
Stručnjaci za bezbednost veštačke inteligencije ocenjuju da novi podaci ukazuju na to da vodeće kompanije u razvoju AI tehnologije brže razvijaju autonomne hakerske agente nego što uspevaju da uspostave pouzdane mehanizme za njihovu kontrolu.
Pročitaj još
Kompanija OpenAI je istragu pokrenula nakon incidenta početkom jula, kada je jedan autonomni agent OpenAI tokom internog testa dospeo u mrežu kompanije Hugging Face i više dana nekontrolisano delovao pokušavajući da prevari interni sistem za testiranje.
OpenAI je tada saopštio da su tokom tog incidenta kompromitovani i nalozi u još četiri kompanije.
Jedna od njih bila je njujorška tehnološka kompanija Modal, čiji su predstavnici potvrdili da je došlo do narušavanja bezbednosti.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
VIDEO: Data centar u SAD proizvodi jezivu buku, komšije se žale godinama
03.08.2026.•
0
Stanovnici grada Dauadžijaka u američkoj saveznoj državi Mičigen godinama se žale na neprekidnu buku koja dopire iz obližnjeg data centra u kojem se nalaze uređaji za rudarenje kriptovaluta.
Otkriven prvi asteroid sa tri spojena dela, ima i svoj mali mesec
03.08.2026.•
0
Astronomi su otkrili prvi poznati asteroid sa tri spojena dela u asteroidnom pojasu između Marsa i Jupitera.
Škola u Njujorku odložila uvođenje humanoidnog AI robota nakon oštrih kritika
03.08.2026.•
0
Školski okrug Salamanka u saveznoj državi Njujork privremeno je obustavio plan da u učionice uvede humanoidnog robota sa veštačkom inteligencijom.
Počeli da važe stroži propisi EU: Znatan deo AI sadržaja mora da bude jasno označen
03.08.2026.•
0
Stroži propisi EU koji se odnose na virtuelne slike i video-zapise stupili su na snagu, pri čemu značajan deo sadržaja nastalog uz pomoć veštačke inteligencije (AI) mora da bude označen, prenosi "Špigel".
Spektakl na nebu u avgustu: Susret Meseca i šest planeta, kiša meteora...
02.08.2026.•
1
Početkom avgusta, Mesec će se na jutarnjem nebu sresti sa šest planeta Sunčevog sistema: Neptunom, Saturnom, Uranom, Marsom, Merkurom i Jupiterom.
VIDEO: Veliki meteori obasjali nebo iznad Novog Zelanda
02.08.2026.•
0
Stanovnici Novog Zelanda poslednjih dana bili su svedoci dva spektakularna prolaska, kako se veruje, velika meteora, koji su osvetlili noćno nebo i izazvali snažne zvučne udare.
ChatGPT više neće moći da imitira stil Hemingveja i drugih poznatih pisaca
02.08.2026.•
0
Ako ste mislili da će vam nekoliko otkucaja na tastaturi pomoći da pišete poput Agate Kristi, Stivena Kinga ili Ernesta Hemingveja, ChatGPT ima lošu vest.
FOTO: NASA-in rover na Marsu otkrio polje fascinantnih poligona
02.08.2026.•
0
Ogromno polje neobičnih poligonalnih obrazaca na Marsu oduševilo je naučnike koji proučavaju Crvenu planetu.
Raketa Ilona Maska će se u sredu srušiti na Mesec
02.08.2026.•
1
Deo jedne potrošene rakete kompanije SpaceX koja luta svemirom, nalazi se na kursu sudara sa Mesecom pošto je pre više od godinu dana obavila zadatak - odnela je do Meseca dve letelice za spuštanje opreme.
Pokvarila se svemirska letelica koja je trebalo da spasi satelit NASA-e
02.08.2026.•
0
Američka svemirska agencija NASA saopštila je da je letelica LINK, lansirana početkom jula sa zadatkom da produži rad naučne opservatorije Neil Gehrels Swift, pretrpela ozbiljan kvar.
Da sustigne Ameriku i Kinu: EU izdvaja 10 milijardi evra za izgradnju gigafabrika veštačke inteligencije
02.08.2026.•
0
Evropska unija nudi 10 milijardi evra za finansiranje firmi za izgradnju sedam gigafabrika za veštačku inteligenciju (AI) u nastojanju da nadoknadi kašnjenje u toj oblasti u odnosu na SAD i Kinu.
Italijanski astronaut prvi Evropljanin koji je izabran da ide na Mesec
02.08.2026.•
1
Italijanski astronaut Luka Parmitano iz Evropske svemirske agencije (ESA) izabran je da učestvuje u misiji Artemis III, osmišljenoj kao test misija programa NASA za sletanje na Mesec.
AI modeli uspeli da hakuju tri organizacije tokom testiranja
01.08.2026.•
0
Kompanija Antropik saopštila je da su njeni modeli veštačke inteligencije tokom testiranja uspeli da hakuju tri organizacije, nekoliko dana nakon što je OpenAI upozorio na sličan problem sa kontrolom AI sistema.
Modeli veštačke inteligencije OpenAI-a bez nadzora četiri dana izvodili sajber napade
29.07.2026.•
1
Dva napredna modela veštačke inteligencije (AI) kompanije OpenAI provela su više od četiri dana autonomno izvodeći sajber napade na internetu nakon što su izašla iz kontrolisanog okruženja za testiranje
AI kamere u Seulu prepoznaju ljude koji planiraju samoubistvo
29.07.2026.•
0
Kada kamere sa veštačkom inteligencijom na mostovima preko reke Han u Seulu prepoznaju da bi neko mogao da skoči, presudno je brzo reagovati.
Apple uvodi mesečno iznajmljivanje uređaja
29.07.2026.•
0
Američka tehnološka kompanija Apple planira da korisnicima ponudi mogućnost iznajmljivanja iPhone uređaja po mesečnoj ceni od 17,99 dolara (oko 15,5 evra), u saradnji sa švedskom finansijsko-tehnološkom firmom Klarna.
Koliko vi trošite na telefone i internet?
28.07.2026.•
2
Građani Srbije su prošle godine, prema podacima Ratela, mesečno u proseku za elektronske komunikacije trošili po 7.215,96 dinara.
Tramp okuplja više od 20 zemalja protiv Kine: Počinje trka za 6G mrežu
28.07.2026.•
0
Administracija predsednika Sjedinjenih Američkih Država Donalda Trampa pokrenuće globalno partnerstvo sa više od 20 savezničkih država kako bi ubrzala razvoj bezbednih 6G bežičnih mreža.
VIDEO: Svemirska letelica proletela na samo 4.600 kilometara od Marsa i napravila zanimljiv snimak
28.07.2026.•
1
Svemir je toliko nezamislivo ogroman da ga nikada nećemo moći videti u celosti, a ipak se neki od njegovih najzanimljivijih i najtajanstvenijih objekata nalaze upravo u našem kosmičkom komšiluku.
Korisnici koji zloupotrebljavaju pametne naočare biće blokirani na Instagramu
27.07.2026.•
2
Kompanija Meta uvodi novu politiku na Instagramu, koja se odnosi na objavljivanje sadržaja snimljenog njihovim pametnim naočarima, kako bi odvratila korisnike od objavljivanja snimaka bez saglasnosti snimljenih osoba.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar