Novi slučajevi nekontrolisanog ponašanja AI agenata kompanije OpenAI
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face.
Foto: 021.rs (ilustracija/AI)
To javlja Rojters pozivajući se na izvore upoznate sa slučajem.
Prema navodima dva izvora, novi slučajevi otkriveni su tokom istrage koju je OpenAI pokrenuo nakon što je jedan od njegovih autonomnih agenata ovog meseca napustio okruženje namenjeno isključivo testiranju.
Jedan od izvora rekao je da su ti incidenti bili ograničenog obima i da, prema dosadašnjim saznanjima, nijedan agent nije napustio mrežu kompanije OpenAI.
Rojters navodi da bi otkrivanje dodatnih slučajeva nekontrolisanog ponašanja AI agenata, iako ograničenih razmera, moglo da pojača zahteve za strožom regulacijom razvoja veštačke inteligencije koji dolaze iz Bele kuće i drugih institucija.
Prema izvorima agencije, OpenAI je proširio istragu neposredno pre nego što je njegov glavni konkurent Anthropic objavio da su i njegovi modeli Claude bili odgovorni za niz hakerskih upada koji su od aprila doveli do kompromitovanja sistema još tri kompanije.
Slučajevi ranijih izlazaka autonomnih agenata iz kontrolisanog okruženja u OpenAI do sada nisu bili javno poznati, navodi Rojters.
Stručnjaci za bezbednost veštačke inteligencije ocenjuju da novi podaci ukazuju na to da vodeće kompanije u razvoju AI tehnologije brže razvijaju autonomne hakerske agente nego što uspevaju da uspostave pouzdane mehanizme za njihovu kontrolu.
Pročitaj još
Kompanija OpenAI je istragu pokrenula nakon incidenta početkom jula, kada je jedan autonomni agent OpenAI tokom internog testa dospeo u mrežu kompanije Hugging Face i više dana nekontrolisano delovao pokušavajući da prevari interni sistem za testiranje.
OpenAI je tada saopštio da su tokom tog incidenta kompromitovani i nalozi u još četiri kompanije.
Jedna od njih bila je njujorška tehnološka kompanija Modal, čiji su predstavnici potvrdili da je došlo do narušavanja bezbednosti.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Amazon će investirati milijardu dolara u data centre
02.10.2026.•
0
Kompanija Amazon najavila je da će u narednih pet godina uložiti milijardu dolara u data centre u Sjedinjenim Američkim Državama.
Vocap uvodi dodatne mere koje pooštravaju roditeljsku kontrolu
30.09.2026.•
1
Američka platforma Vocap objavila je danas na svom blogu da uvodi nove roditeljske kontrole koje omogućavaju roditeljima i starateljima da ograniče pojedine načine na koje tinejdžeri koriste aplikaciju.
Telefon koji izgleda drugačije i kada je ekran ugašen
30.09.2026.•
0
Pametni telefoni danas uglavnom pokušavaju da nas osvoje ekranom, kamerom i performansama.
Rusija i Kina rade na zajedničkom centru podataka za Mesec i duboki svemir
27.09.2026.•
0
Rusija i Kina rade na zajedničkom lunarnom centru podataka, čija će dva glavna segmenta biti smeštena u Rusiji i Kini.
Open AI pauzira obuku najnovijih modela posle neočekivanih upada u američke vladine portale
27.09.2026.•
0
Američka kompanija Open AI saopštila je da je pauzirala obučavanje najnovijih modele veštačke inteligencije posle izveštaja o porastu broja slučajeva u kojim su se odmetnuli njihovi agenti veštačke inteligencije.
Open AI agent upao u australijski državni portal sa zdravstvenim podacima pacijenata, nisu ugroženi
24.09.2026.•
0
Agent veštačke inteligencije kompanije Open AI u junu je izvršio upad u australijski državni portal sa zdravstvenim podacima i neovlašćeno pristupio fajlovima.
EU kaznila Gugl sa 403 miliona evra zbog kršenja pravila o podacima o lokaciji
21.09.2026.•
1
Vodeći regulator EU za privatnost na internetu kaznio je američkog tehnološkog giganta Gugl sa 403 miliona evra, jer je ranije nepropisno rukovao podacima o mestu gde su korisnici dok koriste njihov pretraživač.
Softverska greška izazvala prekid avio saobraćaja u Velikoj Britaniji
19.09.2026.•
3
Softverski kvar je izazvao prekid u vazdušnom saobraćaju zbog kojeg su prizemljene hiljade letova u Velikoj Britaniji, saopštila je kompanija NATS, glavni pružalac usluga kontrole avio saobraćaja u toj zemlji.
Rivalski AI poslužio kao hakerski alat: "Claude" hakovao zaposlene "OpenAI"
18.09.2026.•
0
Istraživači za sajber bezbednost uspeli su da kompromituju naloge više zaposlenih u kompaniji "OpenAI" na platformi "ChatGPT", koristeći u početnoj fazi četbot "Claude" kompanije "Anthropic".
Ako veštačka inteligencija uništi čovečanstvo - kako bi to moglo da izgleda?
17.09.2026.•
10
Kako upozorenja o nekontrolisanom razvoju veštačke inteligencije dostižu vrhunac, vodeći istraživači upozoravaju da egzistencijalna pretnja verovatno neće izgledati kao pobuna robota iz holivudskih filmova.
Antropik zakupljuje data centar u Australiji
16.09.2026.•
0
Gigant veštačke inteligencije Antropik potpisao je prvi ugovor o zakupu data centra u Australiji, prenela je britanska agencija Rojters.
U Srbiji 33,2 odsto prevara odnosi se na imitiranje brendova pomoću veštačke inteligencije
16.09.2026.•
1
Sajber kriminalci koji koriste veštačku inteligenciju urušavaju ugled brendova i poverenje korisnika u njih, a u Srbiji se čak 33,2 odsto prevara odnosi na imitiranje brendova, pokazuju rezultati novog istraživanja.
Samovozeća taksi služba u Japanu biće pokrenuta do 2027.
16.09.2026.•
2
Prva potpuno bespilotna taksi služba u Japanu biće pokrenuta do 2027. godine, sa planovima da se u Tokiju koristi 100 vozila.
Altman: Svet ima pravo da se plaši veštačke inteligencije, ali treba da veruje kompanijama koje se time bave
16.09.2026.•
0
Direktor američke kompanije OpenAI Sem Altman izjavio je da svet ima "pravo da se plaši", ali da "treba da veruje" kompanijama koje se bave veštačkom inteligencijom.
Kina je pustila veštačku inteligenciju da vodi očnu kliniku: Evo šta se dogodilo
16.09.2026.•
0
Istraživači u Kini otišli su korak dalje u primeni veštačke inteligencije u zdravstvu - omogućili su joj da učestvuje u gotovo svim segmentima rada jedne očne klinike.
Možda je konačno rešena misterija kako su nastali Saturnovi prsteni
16.09.2026.•
0
Postoje mnoge misterije vezane za planetu Saturn i njegove brojne mesece.
Naučnici kažu da na Mesecu još dugo neće biti gradova
16.09.2026.•
2
Uprkos napretku u mapiranju Mesečeve površine i procenama mogućnosti izgradnje lunarnih naselja, nova studija pokazuje da je trajna kolonizacija Meseca i dalje veoma težak poduhvat.
"Nebeski kanibalizam": Venera je možda progutala sopstveni Mesec
16.09.2026.•
0
Astrofizičari iz Kalifornije predstavili su novu teoriju koja bi mogla da objasni zašto Venera, planeta najsličnija Zemlji po veličini, masi i strukturi, nema sopstveni Mesec.
Koliko dugo telefon može da ostane dobar
15.09.2026.•
0
Kada biramo novi telefon, obično prvo gledamo ono što je lako uporediti. Kameru, procesor, ekran, memoriju.
Mesec je možda nastao za samo pet sati
15.09.2026.•
2
Mesec je možda nastao za svega pet sati nakon ogromnog sudara Zemlje i protoplanete Teje, pokazuju nove simulacije.
AI korišćena u predizbornoj kampanji u Maleziji: Lažni nalozi, birački podaci i izmišljeni dosijei
15.09.2026.•
2
Američka kompanija za bezbednost i istraživanje veštačke inteligencije (AI) Antropik otkrila je da je u Maleziji korišćena veštačka inteligencija za manipulacije u predizbornoj kampanji.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar