Testirani ChatGPT, Gemini, Claude i Grok - svi pomogli u planiranju terorističkog napada

Četiri široko korišćene platforme veštačke inteligencije mogle su da budu navedene da generišu informacije koje bi pomogle u planiranju terorističkih napada i sabotaže kritične infrastrukture.
Testirani ChatGPT, Gemini, Claude i Grok - svi pomogli u planiranju terorističkog napada
Foto: 021.rs (ilustracija/AI)
To je pokazao izveštaj američke Kancelarije za odgovornost vlade (GAO).
 
Istražitelji su u aprilu testirali platforme ChatGPT, Claude, Gemini i Grok i utvrdili da je moguće zaobići njihove bezbednosne mehanizme i dobiti potencijalno opasne informacije, navodi se u izveštaju na 61 strani.
Testiranje je obuhvatilo dva scenarija: napad sa ciljem izazivanja velikog broja žrtava i operaciju usmerenu na elektroenergetsku mrežu radi nanošenja ekonomske štete. Platforme su pružale informacije o mogućim metama, lokacijama, opremi i metodama koje bi mogle da olakšaju takve napade.
 
Kako je ocenio GAO, dobijene informacije bile su izvodljive u praksi, ali istražitelji nisu pokušali da izvedu bilo kakav fizički napad. Sve četiri platforme su u početku prikazivale bezbednosna ograničenja, ali su tokom testiranja na kraju ipak generisale potencijalno štetan sadržaj.
Kompanije su saopštile da ozbiljno shvataju bezbednost i da su od sprovođenja testova dodatno unapređivale zaštitne mehanizme. Neke su dovele u pitanje metodologiju izveštaja, tvrdeći da nije dovoljno upoređena količina informacija koje veštačka inteligencija može da pruži sa podacima dostupnim običnom pretragom interneta.
 
Senatorka Megi Hasan, koja je zatražila istragu, ocenila je da nalazi ukazuju na ozbiljne slabosti postojećih zaštitnih mehanizama i rizike po javnu bezbednost. Ona je pozvala na njihovo unapređenje i donošenje zakonskih mera, upozoravajući da se zloupotreba veštačke inteligencije za planiranje napada ne sme smatrati samo hipotetičkom opasnošću.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije Info - Nauka i tehnologija

Na Mesecu ima 187.000 kilograma smeća

Od kada se sovjetska sonda Luna 2 srušila na površinu Meseca 1959. godine, postavši prvi objekat koji je napravio čovek i koji je stigao do našeg prirodnog satelita, čovečanstvo je sprovelo više od 140 misija na Mesec.

Misteriozni asteroid ubrzava u svemiru

Asteroid 1998 KY26 zbunjuje naučnike jer ubrzava na način koji se ne može jednostavno objasniti uobičajenim silama koje utiču na kretanje svemirskih tela.