Rivalski AI poslužio kao hakerski alat: "Claude" hakovao zaposlene "OpenAI"
Istraživači za sajber bezbednost uspeli su da kompromituju naloge više zaposlenih u kompaniji "OpenAI" na platformi "ChatGPT", koristeći u početnoj fazi četbot "Claude" kompanije "Anthropic".
Foto: Pixabay
Istraživači iz američkog startapa "Hacktron AI" su naveli da im je napad omogućio pristup softverskom kešu, odnosno podacima ciljanih korisnika, kao i potencijalno drugim podacima, prenosi Gardijan.
"Obim onoga čemu smo teoretski mogli da pristupimo bio je ogroman", naveli su istraživači Hacktrona. Operacija je sprovedena u okviru "OpenAI" programa za etičko testiranje bezbednosti, kojim kompanija nagrađuje istraživače koji otkriju ranjivosti u njenim sistemima, za šta je tim dobio nagradu od 6.500 dolara.
Tim "Hacktron" je najpre koristio "Claude" za pristup nalozima zaposlenih u "OpenAI" preko internog foruma za diskusiju, a potom podneo bezopasan zahtev za izmenu koda na "GitHub" repozitorijumu kompanije.
Iako su imali pristup kodu, istraživači su saopštili da ga nisu preuzeli, dodajući da su za najveći deo operacije koristili napredni model GPT-5.6 Sol.
Portparol "OpenAI" zahvalio je istraživačima na prijavljenim nalazima i potvrdio da su iskorišćene ranjivosti u međuvremenu otklonjene. Iz "Hacktrona" su istakli da alati veštačke inteligencije znatno olakšavaju i ubrzavaju ranije složene hakerske operacije.
Ovaj incident dolazi u trenutku sve glasnijih debata o bezbednosti veštačke inteligencije.
Pročitaj još
"OpenAI" je ove nedelje objavio više primera "neočekivanog ili zabrinjavajućeg" ponašanja svoje tehnologije i upozorio da tempo razvoja AI neće moći još dugo da se nastavi maksimalnom brzinom.
"Anthropic" je tokom vikenda ponovo pozvao na usporavanje razvoja veštačke inteligencije, što su podržali "OpenAI", "Google DeepMind" i Ilon Mask. Sa druge strane, američki predsednik Donald Tramp odbacio je takve pozive, naglašavajući da SAD moraju zadržati prednost u odnosu na Kinu u toj oblasti.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Ako veštačka inteligencija uništi čovečanstvo - kako bi to moglo da izgleda?
17.09.2026.•
9
Kako upozorenja o nekontrolisanom razvoju veštačke inteligencije dostižu vrhunac, vodeći istraživači upozoravaju da egzistencijalna pretnja verovatno neće izgledati kao pobuna robota iz holivudskih filmova.
Antropik zakupljuje data centar u Australiji
16.09.2026.•
0
Gigant veštačke inteligencije Antropik potpisao je prvi ugovor o zakupu data centra u Australiji, prenela je britanska agencija Rojters.
U Srbiji 33,2 odsto prevara odnosi se na imitiranje brendova pomoću veštačke inteligencije
16.09.2026.•
1
Sajber kriminalci koji koriste veštačku inteligenciju urušavaju ugled brendova i poverenje korisnika u njih, a u Srbiji se čak 33,2 odsto prevara odnosi na imitiranje brendova, pokazuju rezultati novog istraživanja.
Samovozeća taksi služba u Japanu biće pokrenuta do 2027.
16.09.2026.•
1
Prva potpuno bespilotna taksi služba u Japanu biće pokrenuta do 2027. godine, sa planovima da se u Tokiju koristi 100 vozila.
Altman: Svet ima pravo da se plaši veštačke inteligencije, ali treba da veruje kompanijama koje se time bave
16.09.2026.•
0
Direktor američke kompanije OpenAI Sem Altman izjavio je da svet ima "pravo da se plaši", ali da "treba da veruje" kompanijama koje se bave veštačkom inteligencijom.
Kina je pustila veštačku inteligenciju da vodi očnu kliniku: Evo šta se dogodilo
16.09.2026.•
0
Istraživači u Kini otišli su korak dalje u primeni veštačke inteligencije u zdravstvu - omogućili su joj da učestvuje u gotovo svim segmentima rada jedne očne klinike.
Možda je konačno rešena misterija kako su nastali Saturnovi prsteni
16.09.2026.•
0
Postoje mnoge misterije vezane za planetu Saturn i njegove brojne mesece.
Naučnici kažu da na Mesecu još dugo neće biti gradova
16.09.2026.•
2
Uprkos napretku u mapiranju Mesečeve površine i procenama mogućnosti izgradnje lunarnih naselja, nova studija pokazuje da je trajna kolonizacija Meseca i dalje veoma težak poduhvat.
"Nebeski kanibalizam": Venera je možda progutala sopstveni Mesec
16.09.2026.•
0
Astrofizičari iz Kalifornije predstavili su novu teoriju koja bi mogla da objasni zašto Venera, planeta najsličnija Zemlji po veličini, masi i strukturi, nema sopstveni Mesec.
Koliko dugo telefon može da ostane dobar
15.09.2026.•
0
Kada biramo novi telefon, obično prvo gledamo ono što je lako uporediti. Kameru, procesor, ekran, memoriju.
Mesec je možda nastao za samo pet sati
15.09.2026.•
2
Mesec je možda nastao za svega pet sati nakon ogromnog sudara Zemlje i protoplanete Teje, pokazuju nove simulacije.
AI korišćena u predizbornoj kampanji u Maleziji: Lažni nalozi, birački podaci i izmišljeni dosijei
15.09.2026.•
2
Američka kompanija za bezbednost i istraživanje veštačke inteligencije (AI) Antropik otkrila je da je u Maleziji korišćena veštačka inteligencija za manipulacije u predizbornoj kampanji.
Majkrosoft predložio kodeks za veštačku inteligenciju pod ljudskom kontrolom
14.09.2026.•
1
Kompanija Majkrosoft predstavila je danas nacrt kodeksa ponašanja za svoje sisteme veštačke inteligencije, kao reakciju na sve izraženiji stav da budući moćni AI sistemi moraju ostati pod ljudskom kontrolom.
Astronomi otkrili 27 misterioznih objekata koji kruže oko Sunca daleko iza Neptuna
14.09.2026.•
0
Istraživanja svemirskih teleskopa "Habl" i "Džejms Veb" pokazalo je da je istorija udaljenih objekata Sunčevog sistema još zagonetnija nego što se ranije verovalo.
UN poziva na hitno regulisanje AI: Ubrzani razvoj nosi rizike po ljudska prava
14.09.2026.•
0
Visoki komesar Ujedinjenih nacija za ljudska prava Folker Tirk pozvao je države i vodeće kompanije koje razvijaju veštačku inteligenciju da hitno uspostave pravila za upravljanje tom tehnologijom.
Kineski teleskop mapira kosmički gas od kog nastaju zvezde i galaksije
14.09.2026.•
0
Kineski teleskop FAST mapirao je neutralni vodonik izvan Mlečnog puta, a u pitanju je gas koji pokreće stvaranje zvezda i galaksija.
Merkur se smanjuje
13.09.2026.•
0
Karakteristične "bore" koje prekrivaju Merkur ukazuju na to da je planeta nekada bila veća i da se tokom vremena smanjivala.
VIDEO: Kako izgleda Hitna pomoć za robote u Japanu?
13.09.2026.•
1
Ulicama Tokija uskoro bi mogla da se kreće nova vrsta ambulantnih kola, napravljena ne za ljude, već za humanoidne robote.
Astronomi otkrili dve zvezde koje su se spojile u binarni sistem pre samo 60 godina
13.09.2026.•
0
Koristeći radio-teleskop ALMA, astronomi su posmatrali dve mlade masivne zvezde koje su se spojile u binarni sistem.
Kina planira da pokrene misiju za donošenje uzoraka sa Marsa
13.09.2026.•
0
Kina napreduje u pripremama za misiju Tjenven 3, čiji je cilj da sa Marsa donese na Zemlju oko 500 grama uzoraka 2031. godine.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar