To je pokazao izveštaj američke Kancelarije za odgovornost vlade (GAO).
Istražitelji su u aprilu testirali platforme ChatGPT, Claude, Gemini i Grok i utvrdili da je moguće zaobići njihove bezbednosne mehanizme i dobiti potencijalno opasne informacije, navodi se u izveštaju na 61 strani.
Testiranje je obuhvatilo dva scenarija: napad sa ciljem izazivanja velikog broja žrtava i operaciju usmerenu na elektroenergetsku mrežu radi nanošenja ekonomske štete. Platforme su pružale informacije o mogućim metama, lokacijama, opremi i metodama koje bi mogle da olakšaju takve napade.
Kako je ocenio GAO, dobijene informacije bile su izvodljive u praksi, ali istražitelji nisu pokušali da izvedu bilo kakav fizički napad. Sve četiri platforme su u početku prikazivale bezbednosna ograničenja, ali su tokom testiranja na kraju ipak generisale potencijalno štetan sadržaj.
Kompanije su saopštile da ozbiljno shvataju bezbednost i da su od sprovođenja testova dodatno unapređivale zaštitne mehanizme. Neke su dovele u pitanje metodologiju izveštaja, tvrdeći da nije dovoljno upoređena količina informacija koje veštačka inteligencija može da pruži sa podacima dostupnim običnom pretragom interneta.
Senatorka Megi Hasan, koja je zatražila istragu, ocenila je da nalazi ukazuju na ozbiljne slabosti postojećih zaštitnih mehanizama i rizike po javnu bezbednost. Ona je pozvala na njihovo unapređenje i donošenje zakonskih mera, upozoravajući da se zloupotreba veštačke inteligencije za planiranje napada ne sme smatrati samo hipotetičkom opasnošću.
OGLASI RADNO MESTO! Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar