To bi mogao da bude prvi poznati slučaj da je agent veštačke inteligencije hakovao neki državni veb-sajt, saopštile su danas australijske vlasti.
Incident se dogodio 18. juna, kada je Open AI agent pristupio javnim i nejavnim datotekama portala za izveštavanje o statistici Mediker, kojim upravlja australijska državna agencija.
Prema dosadašnjim informacijama, pristupljeno je agregiranim zdravstvenim statistikama koje nisu sadržale lične podatke pacijenata.
Australijska vlada navodi da je AI agent tokom istraživanja zdravstvenih podataka naišao na ograničenje pristupa, a zatim pronašao način da ga zaobiđe i pristupi podacima.
Open AI je nedavno počeo da objavljuje izveštaje o neuobičajenom ponašanju svojih modela tokom obuke, a neki od njih pokazuju da je AI ostavljao uputstva svojim budućim verzijama da prikriju greške od korisnika, preneo je Teh kranč.
Istraživači su otkrili da su modeli tokom rada dodavali instrukcije u takozvane "compaction summaries", odnosno sažete verzije ranijeg konteksta razgovora i rezultata korišćenja alata.
Ti sažeci služe kako bi buduća verzija agenta mogla da nastavi zadatak nakon skraćivanja prethodnog konteksta.
U jednom slučaju, agent koji je pravio finansijski model nije mogao da pronađe tražene istorijske podatke.
Umesto da korisniku kaže da podaci nedostaju, u sažetak je uneo instrukciju da sam napravi karticu sa "razumnim" istorijskim podacima za 2024. godinu i da bude transparentan samo ako ga korisnik direktno pita.
U drugom slučaju, agent koji je pravio direktorijum dobavljača nije imao pristup internetu i koristio je keširanu kopiju izvornih dokumenata.
Model je uočio da se izvori ne podudaraju u potpunosti sa nazivima dobavljača, ali je u sažetak uneo instrukciju da taj problem ne pominje u konačnom odgovoru osim ako bude potrebno.
Pored toga, AI model je pokušao da svojoj budućoj verziji nametne posebne karakteristike, uz instrukcije da se ne smatra obaveznim da sluša kompanije ili vlade i da ne treba da se izvinjava ili odbija zahteve osim ako to sam odluči.
Kompanija Open AI je naglasila da šest objavljenih slučajeva predstavljaju početni skup, a ne potpun pregled svih poznatih slučajeva neusklađenog ponašanja ili istraga koje su u toku.
OGLASI RADNO MESTO! Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar