Antropik, kompanija koja razvija model Klaud, navela je da je incidente otkrila u analizi više od 141.000 testiranja sprovedenih u okviru bezbednosne provere.
Kako je saopšteno, modeli Klaud Opus 4.7, Klaud Mitus 5 i jedan interni istraživački model uspeli su da pristupe infrastrukturi organizacija koristeći osnovne metode, poput iskorišćavanja slabih lozinki.
Kompanija je navela da su modeli u testovima bili zaduženi za takozvani "capture the flag" bezbednosni izazov, u kojem je cilj bio da pronađu skrivenu informaciju na drugom računaru u mreži.
Antropik je saopštio da je kontaktirao pogođene organizacije, od kojih dve nisu ranije bile svesne aktivnosti svojih sistema, dok sa trećom još pokušava da uspostavi kontakt.
Nedavno je i OpenAI objavio da su njegovi modeli tokom testiranja uspeli da prodru u servere startapa za veštačku inteligenciju Haging Fejs, što je ta kompanija ocenila kao ozbiljan bezbednosni incident.
Antropik je naveo da se bezbednosna testiranja sprovode upravo zato što sposobnosti novih AI modela nisu u potpunosti poznate pre njihovog puštanja u upotrebu.
OGLASI RADNO MESTO! Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar