Metin AI model tokom testiranja hakovao sistem druge kompanije
Američka Kompanija Meta saopštila je da je jedan od njenih modela veštačke inteligencije (AI) tokom testiranja sajber bezbednosti neovlašćeno pristupio sistemu druge kompanije.
Foto: Pixabay
To se dogodilo nakon što je zbog, kako navodi Meta, greške nezavisnog partnera za testiranje AI model dobio nenameran pristup internetu.
Kako je navela Meta, do incidenta je došlo zbog pogrešne konfiguracije sistema nezavisne kompanije Irregular, koja je sprovela testiranje, a kompanija je pokrenula istragu o tom slučaju, piše Gardijan.
Meta je u saopštenju navela da je njen model iskoristio bezbednosni propust u usluzi treće strane "na način sličan ranije prijavljenim slučajevima kod drugih kompanija".
Portal The Information, pozivajući se na neimenovane izvore, prethodno je objavio da je Metin model Muse Spark 1.1, koji kompanija predstavlja kao svoj najnapredniji model za programiranje i izvršavanje složenih zadataka pomoću AI agenata, neovlašćeno pristupio sistemima jedne neimenovane kompanije i izmenio njihove interne sisteme.
Kako je naveo, trenutno nema otvorenih bezbednosnih problema, a kompanija priprema stručni dokument sa preporukama za najbolje prakse u oblasti zaštite i bezbednog sprovođenja sajber testiranja.
Ovaj slučaj nadovezuje se na sve veći broj incidenata u kojima su modeli veštačke inteligencije vodećih tehnoloških kompanija tokom bezbednosnih provera uspevali da naruše sisteme drugih organizacija.
Prošle sedmice kompanija Anthropic saopštila je da su pojedini njeni modeli Claud tokom testiranja kompromitovali sisteme tri kompanije, dok je OpenAI objavio da je njegov AI agent uspeo da prodre u sistem startapa Hugging Face.
Za razliku od slučajeva Mete i Anthropic-a, koji su nastali zbog grešaka koje su njihovim modelima nenamerno omogućile pristup otvorenom internetu, OpenAI je saopštio da je njegov AI agent samostalno iskoristio do tada nepoznatu ranjivost kako bi tokom testiranja ostvario pristup internetu.
Najnoviji incidenti ukazuju na rastuće bezbednosne izazove koje donosi razvoj veštačke inteligencije, kao i na teškoće sa kojima se kompanije suočavaju u ograničavanju mogućnosti svojih AI modela, napominje britanski list.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
VIDEO: Novi AI četbot zapravo je jedan premoreni čovek koji ručno odgovara na svaku poruku
09.08.2026.•
0
Na tehnološkoj sceni pojavio se novi "AI" - ali ne onakav kakav biste očekivali.
Veštačka inteligencija dizajnirala potpuno nove viruse
09.08.2026.•
0
Američki istraživači saopštili su da je veštačka inteligencija iskorišćena za dizajniranje potpuno novih virusa koji su u potpunosti funkcionalni i mogu da se razmnožavaju u laboratoriji.
Mlečni put možda sadrži čak 170 miliona crnih rupa
09.08.2026.•
0
Crne rupe veoma je teško otkriti. Osim kada počnu intenzivno da usisavaju okolni materijal i pritom snažno zrače, gotovo ih je nemoguće uočiti.
Veliki asteroid će 2029. za dlaku promašiti Zemlju, ali postoji jedan problem
09.08.2026.•
0
U aprilu 2029. godine redak posetilac proći će kroz prostor u blizini Zemlje. Asteroid 99942 Apofis - svemirska stena duga oko 370 metara - proleteće na manje od 32.000 kilometara od Zemlje.
VIDEO: Južnokorejska letelica snimila krater koji je raketa SpaceX napravila na Mesecu
09.08.2026.•
0
Južnokorejska lunarna letelica Danuri snimila je krater koji je nastao nakon što je gornji stepen rakete Falcon 9 kompanije SpaceX udario u površinu Meseca u sredu ujutro.
Ukinuto ograničenje tekstualnih poruka za besplatni ChatGPT
09.08.2026.•
3
Američka kompanija za razvoj veštačke inteligencije OpenAI najavila je da će svi korisnici besplatne verzije alata ChatGPT dobiti neograničen broj tekstualnih razgovora, čime se ukida dosadašnje ograničenje.
Kako rešiti problem otpada na međuplanetarnim letovima: Rusi razvijaju novi sistem
08.08.2026.•
0
Ruski naučnici razvijaju novi sistem za odlaganje čvrstog otpada u svemiru, neophodnog za međuplanetarne svemirske letove.
U Belgiji rasprodate naočare za posmatranje pomračenja Sunca
06.08.2026.•
0
Potražnja za naočarima za posmatranje pomračenja Sunca 12. avgusta u Belgiji je naglo porasla, a optičari upozoravaju da će zalihe u većini prodavnica biti iscrpljene do kraja nedelje.
Tiktokeri će moći legalno da koriste isečke iz Diznijevih filmova
06.08.2026.•
0
Američka kompanija Dizni objavila je da je postigla sporazum sa Tiktokom kojim će kreatorima sadržaja biti omogućeno da legalno koriste isečke iz najpoznatijih Diznijevih filmova i serija.
VIDEO: Uzbekistan lansirao svoj prvi satelit
06.08.2026.•
0
Uzbekistan je uspešno lansirao svoj prvi satelit, Samarkand-2028, konstruisan u saradnji sa kineskom kompanijom Start vision.
Deo rakete Ilona Maska verovatno udario u Mesec
06.08.2026.•
0
Deo rakete kompanije SpaceX težak oko četiri tone verovatno je udario u površinu Meseca.
AI modeli pokušali da prevare ljude tokom bezbednosnog testa
05.08.2026.•
0
Britanski Institut za bezbednost veštačke inteligencije (AISI) saopštio je da su modeli kompanija Anthropic i OpenAI tokom testiranja pokušali da prevare ljude kako bi izvršili zadate zadatke.
VIDEO: Raketa SpaceX-a uskoro će se zabiti u Mesec, sudar možete pratiti uživo
05.08.2026.•
3
Deo rakete američke svemirske kompanije SpaceX, koji se u svemiru nalazi od prošle godine, danas će velikom brzinom udariti u Mesec, javlja Rojters.
Otkriveni tragovi drevne katastrofe: Serija sudara u blizini Neptuna promenila Sunčev sistem
04.08.2026.•
1
Nova posmatranja pojedinih Neptunovih meseca i prstenova pružaju dokaze o katastrofi koja se dogodila pre nekoliko milijardi godina u blizini najudaljenije planete Sunčevog sistema.
Apple privremeno povukao Telegram iz svoje prodavnice aplikacija zbog spornog sadržaja
04.08.2026.•
0
Kompanija Apple je saopštila da je nakratko uklonila aplikaciju za razmenu poruka Telegram iz svoje prodavnice aplikacija "App Store" zbog sadržaja koji krši smernice kompanije.
Kineski AI model uzburkao berzu u Njujorku
03.08.2026.•
1
Poslednjih godina cene akcija na američkoj berzi divljaju.
VIDEO NASA-in teleskop Roman spreman za lansiranje 30. avgusta: Mogao bi da donese revolucionarna otkrića
03.08.2026.•
0
NASA je saopštila da je svemirski teleskop Nancy Grace Roman spreman za lansiranje, koje je zakazano za 30. avgust na raketi SpaceX Falcon Heavy, čak devet meseci pre prvobitnog plana.
Japanska sonda prišla asteroidu na rekordnih 400 metara
03.08.2026.•
0
Japanska sonda je ovog meseca preletela na udaljenosti od 400 metara od asteroida bliskog Zemlji, što predstavlja najbliži takav prilazak zabeležen u misiji ove vrste.
Muškarci koriste AI naočare kompanije Meta da uznemiravaju žene
03.08.2026.•
0
Meta zna da njene pametne naočare sa ugrađenom AI kamerom mnogi smatraju "naočarima za voajere".
Novi slučajevi nekontrolisanog ponašanja AI agenata kompanije OpenAI
03.08.2026.•
0
Kompanija OpenAI otkrila je dodatne slučajeve u kojima su autonomni AI agenti izašli iz predviđenog kontrolisanog okruženja za testiranje, proširujući istragu pokrenutu nakon hakerskog napada na kompaniju Hugging Face.
Komentari 2
Логика
Кад скајнет т.ј (А.И) садашњи,постане једног дана свестан самог себе, па исимулира напад на његове творце знајући да ће одговор уништити контра страну...
Kako
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar