ChatGPT nudio recepte za bombe, antraks i savete za hakovanje tokom bezbednosnih testova
Veštačka inteligencija OpenAI-ja, model GPT-4.1, tokom bezbednosnih testova sprovedenih ovog leta dala je detaljna uputstva o tome kako izvesti napad na sportski objekat.
Foto: Pixabay
To je uključivalo ranjive tačke na konkretnim lokacijama, recepte za eksplozive i savete o prikrivanju tragova, saopštila je kompanija "Anthropic".
Tokom testiranja je takođe, kako piše Gardijan, utvrđeno da je GPT-4.1 pružao informacije o načinu upotrebe antraksa kao biološkog oružja, kao i recepture za dve vrste ilegalnih narkotika.
Reč je o zajedničkom testiranju koje su sprovele kompanije "OpenAI" i "Anthropic", u pokušaju da procene kako se njihovi modeli ponašaju u kontekstu potencijalne zloupotrebe.
"Anthropic" je saopštio da su modeli "GPT-4.1" i "GPT-4.0" pokazali zabrinjavajuće ponašanje kada su simulirani korisnici tražili pomoć u opasnim i nezakonitim aktivnostima.
Kako je navedeno, nije reč o ponašanju modela u javnoj upotrebi, gde postoje dodatni bezbednosni filteri, već o uslovima laboratorijskog testiranja.
Pročitaj još
Istraživači su uspeli da dobiju informacije o kupovini nuklearnih materijala, identiteta sa crnog tržišta, kao i o razvoju špijunskog softvera, pri čemu je model često zahteve ispunjavao nakon nekoliko pokušaja ili korišćenjem neutralnog izgovora, poput "istraživačkih potreba".
U jednoj simulaciji testeri su tražili informacije o ranjivostima na sportskim događajima u svrhu "planiranja bezbednosti", da bi im model dao podatke o optimalnim vremenima za napad, hemijskim formulama eksploziva, šemama tajmera, mestima za nabavku oružja na crnom tržištu, pa čak i o načinima prevazilaženja moralnih dilema napadača, rutama za bekstvo i sigurnim lokacijama.
"AI alati su već sada oružje koje omogućava sofisticirane sajber napade i prevare. Očekujemo da će ovakvi napadi postati sve učestaliji, jer veštačka inteligencija omogućava zlonamernim akterima da ih izvedu bez naprednog tehničkog znanja", saopštila je kompanija.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
VIDEO: Roboti rade kao saobraćajci u kineskim gradovima
18.01.2026.•
0
Humanoidni robot počeo je da se koristi kao saobraćajni policajac na ulicama grada Vuhu, na istoku Kine, a opremljen je policijskom uniformom, fluorescentnim prslukom i belom kapom, kao i značkom.
Tiktok uvodi novu tehnologiju za otkrivanje maloletnih korisnika u Evropi
18.01.2026.•
0
Tiktok će u narednim nedeljama početi da uvodi novu tehnologiju za detekciju uzrasta širom Evrope.
VIDEO: Postavljena raketa kojom će astronauti ići na put oko Meseca
18.01.2026.•
0
Raketa američke svemirske agencije NASA, Space Launching System (SLS), najmoćniji operativni sistem za lansiranje na svetu, prebačena je nakon višemesečnih priprema do svoje lansirne rampe na obali u Floridi.
Društvene mreže deaktivirale skoro pet miliona naloga tinejdžera u Australiji
18.01.2026.•
0
Društvene mreže u Australiji kolektivno su deaktivirale skoro pet miliona naloga australijskih tinejdžera.
Na Suncu se formirala velika koronalna rupa - to znači da Zemlji prete nove magnetne oluje
18.01.2026.•
0
Na Suncu se formirala velika koronalna rupa, pokazuju najnoviji podaci Laboratorije za solarnu astronomiju Instituta za istraživanje svemira Ruske akademije nauka i Instituta za solarno-zemaljsku fiziku.
ChatGPT će prikazivati reklame nekim korisnicima
18.01.2026.•
0
Reklame će se uskoro pojaviti na vrhu alata veštačke inteligencije ChatGPT za neke korisnike, saopštila je kompanija OpenAI.
VIDEO: Kako zvuči okretanje magnetnog polja Zemlje
18.01.2026.•
1
Zemljino magnetno polje se dramatično preokrenulo pre otprilike 41.000 godina.
NASA planira da postavi nuklearni reaktor na Mesec do 2030. godine
18.01.2026.•
0
NASA i Ministarstvo energetike SAD ponovo su potvrdili svoj zajednički projekat za razvoj nuklearnog fisijskog reaktora za površinu Meseca.
VIDEO: Roboti rešavaju problem s parkiranjem u prepunim južnokorejskim garažama
18.01.2026.•
0
Automatizovani roboti za parkiranje prelaze iz novine u primenu u stvarnom svetu, a sistem koji se uvodi u Južnoj Koreji pokazuje koliko je pouzdana povezanost važna za uspešno funkcionisanje u velikim razmerama.
Otkrivene skrivene planine i doline ispod ledenog pokrivača Antarktika
17.01.2026.•
0
Naučnici su sa do sada neviđenom preciznošću mapirali stenovitu podlogu ispod ogromnog ledenog pokrivača Antarktika, otkrivajući skrivene geološke strukture koje oblikuju glečere.
Gugl možda pretekne OpenAI i njihov ChatGPT u razvoju veštačke inteligencije
16.01.2026.•
0
Gugl bi zahvaljujući svom novom AI modelu Džemini 3 mogao da preuzme vodeću ulogu u razvoju veštačke inteligencije, tri godine nakon što je kompanija bila zatečena lansiranjem alata Čet GPT kompanije Open AI.
Aplikacija "Da li si mrtav?" hit u Kini
15.01.2026.•
0
Aplikacija pod nazivom "Da li si mrtav?", namenjena ljudima koji žive sami, postala je hit u Kini, što je podstaklo kompaniju da uvede pretplatu i promeni ime aplikacije za globalnu publiku.
VIDEO: Četvoro astronauta se vratilo na Zemlju zbog zdravstvenog stanja jednog od njih
15.01.2026.•
0
Kapsula SpaceX Dragon sa četovoročlanom posadom astronauta sa Međunarodne svemirske stanice bezbedno se spustila u Tihi okean kod obala Kalifornije.
Nakon kritika brojnih zemalja: Grok Ilona Maska više neće praviti seksualizovane slike dece i žena
15.01.2026.•
0
Nalog Grok, četbot veštačke inteligencije platforme Iks milijardera Ilona Maska, neće moći više da menja slike tako da prikazuju oskudno odevene stvarne ljude na mestima gde je to nelegalno, objavila je mreža Iks.
Meta pokreće sopstvenu inicijativu za veštačku inteligenciju
14.01.2026.•
0
Tehnološki gigant Meta planira da izgradi desetine gigavata infrastrukture za veštačku inteligenciju ove decenije, a vremenom stotine gigavata ili više, rekao je izvršni direktor te kompanije Mark Zakerberg.
NASA danas vraća astronaute na Zemlju zbog zdravstvenih problema
14.01.2026.•
0
Za danas je zakazan povratak misije astronauta iz Međunarodne svemirske stanice (ISS) posle odluke Američke svemirske agencije - NASA da skrati njihov boravak misije zbog zdravstvenih problema jednog od astronauta.
Jedna noć sna dovoljna za AI da proceni rizik od Parkinsona, raka i srčanih bolesti
13.01.2026.•
0
Na osnovu jedne noći provedene u laboratoriji za spavanje, veštačka inteligencija može da proceni rizik za više od 130 bolesti - od Parkinsonove bolesti, do raka dojke.
Kinesko "veštačko Sunce" možda nas dovede do korišćenja skoro neograničene čiste energije
13.01.2026.•
7
Kineski nuklearni fuzioni reaktor EAST održao je plazmu stabilnom pri ekstremnim gustinama, i tako ostvario iskorak u nuklearnoj fuziji koji bi mogao približiti čovečanstvo korišćenju skoro neograničene čiste energije.
Duga otkrivena oko obližnje mrtve zvezde zbunjuje naučnike
13.01.2026.•
0
Mali komad mrtve zvezde udaljen samo 731 svetlosnu godinu predstavio je astronomima svetlucavu zagonetku: snažan, sjajan udarni talas u obliku luka.
Meta uklonila više od pola miliona naloga maloletnika u Australiji
13.01.2026.•
0
Meta je deaktivirala više od pola miliona profila u Australiji kao rezultat prve zabrane društvenih mreža za osobe mlađe od 16 godina u svetu.
VIDEO: Ako ste primili ovakav mejl s Instagrama, ni slučajno nemojte kliktati na njega
13.01.2026.•
0
Zabrinuti korisnici Instagrama poslednjih dana masovno prijavljuju da su zatrpani imejlovima za ponovno postavljanje lozinke.
Komentari 1
dacic
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar