ChatGPT nudio recepte za bombe, antraks i savete za hakovanje tokom bezbednosnih testova
Veštačka inteligencija OpenAI-ja, model GPT-4.1, tokom bezbednosnih testova sprovedenih ovog leta dala je detaljna uputstva o tome kako izvesti napad na sportski objekat.
Foto: Pixabay
To je uključivalo ranjive tačke na konkretnim lokacijama, recepte za eksplozive i savete o prikrivanju tragova, saopštila je kompanija "Anthropic".
Tokom testiranja je takođe, kako piše Gardijan, utvrđeno da je GPT-4.1 pružao informacije o načinu upotrebe antraksa kao biološkog oružja, kao i recepture za dve vrste ilegalnih narkotika.
Reč je o zajedničkom testiranju koje su sprovele kompanije "OpenAI" i "Anthropic", u pokušaju da procene kako se njihovi modeli ponašaju u kontekstu potencijalne zloupotrebe.
"Anthropic" je saopštio da su modeli "GPT-4.1" i "GPT-4.0" pokazali zabrinjavajuće ponašanje kada su simulirani korisnici tražili pomoć u opasnim i nezakonitim aktivnostima.
Kako je navedeno, nije reč o ponašanju modela u javnoj upotrebi, gde postoje dodatni bezbednosni filteri, već o uslovima laboratorijskog testiranja.
Pročitaj još
Istraživači su uspeli da dobiju informacije o kupovini nuklearnih materijala, identiteta sa crnog tržišta, kao i o razvoju špijunskog softvera, pri čemu je model često zahteve ispunjavao nakon nekoliko pokušaja ili korišćenjem neutralnog izgovora, poput "istraživačkih potreba".
U jednoj simulaciji testeri su tražili informacije o ranjivostima na sportskim događajima u svrhu "planiranja bezbednosti", da bi im model dao podatke o optimalnim vremenima za napad, hemijskim formulama eksploziva, šemama tajmera, mestima za nabavku oružja na crnom tržištu, pa čak i o načinima prevazilaženja moralnih dilema napadača, rutama za bekstvo i sigurnim lokacijama.
"AI alati su već sada oružje koje omogućava sofisticirane sajber napade i prevare. Očekujemo da će ovakvi napadi postati sve učestaliji, jer veštačka inteligencija omogućava zlonamernim akterima da ih izvedu bez naprednog tehničkog znanja", saopštila je kompanija.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Svi mobilni telefoni u Indiji moraće da imaju državnu aplikaciju - neće moći da se izbriše
02.12.2025.•
0
Indijsko ministarstvo komunikacija naložilo je proizvođačima mobilnih telefona da na uređaje pre prodaje instaliraju aplikaciju za sajber bezbednost u vlasništvu države i onemoguće korisnicima njeno brisanje.
Oštećena kineska letelica biće vraćena na Zemlju
02.12.2025.•
0
Kineska svemirska letelica Šendžou biće vraćena na Zemlju kako bi se detaljnije ispitala oštećenja, prenela je državna CCTV.
Astronaut iz Nemačke prvi će iz Evrope putovati na Mesec
30.11.2025.•
1
Prvi Evropljanin u nekoj od budućih misija američke agencije NASA na Mesec biće iz Nemačke, a kasnije će njegovim stopama astronauti iz Francuske i Italije.
Prvi put pronađena složena aminokiselina na asteroidu
30.11.2025.•
0
Triptofan - esencijalna aminokiselina - pronađena je na Benu, malom asteroidu koji svakih otprilike šest godina proleti pored naše planete.
VIDEO: U Japanu počinje prodaja mašine za pranje ljudi
30.11.2025.•
1
Mašina za pranje ljudi - atrakcija ovogodišnje Svetske izložbe Ekspo u Osaki, ide u prodaju u Japanu, saopštio je danas proizvođač, kompanija "Science".
Rusija prvi put od 1961. ne može da šalje astronaute u svemir
30.11.2025.•
0
Oštećenje na ruskoj lansirnoj stanici zaustavilo je mogućnost Moskve da šalje ljude u svemir - prvi put posle više od šest decenija.
VIDEO Alibaba ima AI naočare: Jeftinije od Metinih za 220 evra
30.11.2025.•
1
Pametne naočare kompanije Alibaba, zasnovane na veštačkoj inteligenciji (AI), puštene su u prodaju i biće jeftinije od Metinih za oko 220 evra.
Prvi srpski satelit krenuo u svemir: Projekat studenata iz Srbije i Mađarske, posvećen žrtvama u Novom Sadu
29.11.2025.•
7
Studenti iz Srbije i Mađarske izradili su HUNITY satelit, koji je u potpunosti, kako kažu, "Made in Serbia". Posvećen je žrtvama pada nadstrešnice.
"Sajuz MS-28" uspešno pristao na Međunarodnu svemirsku stanicu
27.11.2025.•
1
Svemirski brod "Sajuz MS-28" s dvojicom ruskih kosmonauta i jednim američkim, uspešno je pristao danas na Međunarodnu svemirsku stanicu (MKS).
VIDEO: Ruska letelica sa tri astronauta lansirana prema Međunarodnoj svemirskoj stanici
27.11.2025.•
0
S ruskog kosmodroma Bajkonur je uspešno lansirana raketa "Sajuz-2.1a" sa svemirskom letelicom "Sojuz MS-28", koja prema Međunarodnoj svemirskoj stanici prevozi dvojicu ruskih kosmonauta i jednog američkog astronauta.
EK pokrenula alat za uzbunjivače za prijavu kršenja AI zakona
25.11.2025.•
0
Evropska komisija pokrenula je alat za uzbunjivače za Akt o veštačkoj inteligenciji koji će obezbediti siguran i poverljiv kanal za direktno prijavljivanje sumnji na povrede tog zakona.
VIDEO: Kina uspešno hitno lansirala letelicu ka svemirskoj stanici
25.11.2025.•
0
Kina je lansirala svemirsku letelicu Šendžou-22 iz Centra za lansiranje satelita Điućuan na severozapadu Kine.
Google na meti kritika da bez dozvole analizira Gmail poštu korisnika da bi obučila AI
25.11.2025.•
0
Kompanija Google našla se na meti optužbi da obučava svoju veštačku inteligenciju za aplikaciju Gmail kako bi čitala sve imejlove svojih korisnika bez njihovog prethodnog pristanka.
Kako bi suzbila botove: Mreža "X" uvodi novu funkcija za proveru autentičnosti profila
25.11.2025.•
1
Platforma "X" objavila je da uvodi novu funkciju "O ovom nalogu" (About This Account) koja će prikazivati informacije o korisničkim profilima.
VIDEO: Leteći taksiji u Dubaiju od sledeće godine - kretaće se 320 kilometara na čas
23.11.2025.•
1
Američka kompanija "Joby Aviation" planira da sledeće godine pokrene komercijalnu uslugu letećih taksija u Dubaiju, koristeći potpuno električne letelice brzine do 320 kilometara na čas, preneo je NBC.
Studenti Univerziteta u Britaniji negodovali zato što im je kurs držala veštačka inteligencija
23.11.2025.•
0
Studenti Univerziteta u Stafordširu u Velikoj Britaniji nisu krili negodovanje nakon što se ispostavilo da je kurs, za koji su se nadali da će unaprediti njihove digitalne karijere, u najvećoj meri držala AI.
Kompanija "Blue Origin" najavila veću i snažniju varijantu rakete "New Glenn"
23.11.2025.•
0
Svemirska kompanija američkog milijardera Džefa Bezosa "Blue Origin" je saopštila da će izgraditi veću i snažniju varijantu svoje rakete "New Glenn".
Mahovina preživela devet meseci u vakuumu svemira
23.11.2025.•
0
Mahovine, poput vodenih medveda, poznate su po sposobnosti da izdrže ekstremne uslove, uključujući jaku radijaciju i dehidrataciju.
VIDEO: Kultni uređaj iz video igre Fallout u prodaji
23.11.2025.•
0
Ljubitelji popularne franšize videoigara Fallout napokon su došli na svoje.
VIDEO: Kineski robot oborio Ginisov rekord hodajući 106 km između gradova
23.11.2025.•
1
Humanoidni robot proizveden u Kini postavio je novi Ginisov svetski rekord prešavši 106 kilometara između istočnih kineskih gradova - bez isključivanja.
Australija zabranjuje tinejdžerima i platformu Twitch
23.11.2025.•
1
Australija će od 10. decembra uvrstiti Amazonov servis za prenos uživo, Twitch, u svoju zabranu društvenih mreža za osobe mlađe od 16 godina.
Komentari 1
dacic
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar