ChatGPT nudio recepte za bombe, antraks i savete za hakovanje tokom bezbednosnih testova
Veštačka inteligencija OpenAI-ja, model GPT-4.1, tokom bezbednosnih testova sprovedenih ovog leta dala je detaljna uputstva o tome kako izvesti napad na sportski objekat.
Foto: Pixabay
To je uključivalo ranjive tačke na konkretnim lokacijama, recepte za eksplozive i savete o prikrivanju tragova, saopštila je kompanija "Anthropic".
Tokom testiranja je takođe, kako piše Gardijan, utvrđeno da je GPT-4.1 pružao informacije o načinu upotrebe antraksa kao biološkog oružja, kao i recepture za dve vrste ilegalnih narkotika.
Reč je o zajedničkom testiranju koje su sprovele kompanije "OpenAI" i "Anthropic", u pokušaju da procene kako se njihovi modeli ponašaju u kontekstu potencijalne zloupotrebe.
"Anthropic" je saopštio da su modeli "GPT-4.1" i "GPT-4.0" pokazali zabrinjavajuće ponašanje kada su simulirani korisnici tražili pomoć u opasnim i nezakonitim aktivnostima.
Kako je navedeno, nije reč o ponašanju modela u javnoj upotrebi, gde postoje dodatni bezbednosni filteri, već o uslovima laboratorijskog testiranja.
Pročitaj još
Istraživači su uspeli da dobiju informacije o kupovini nuklearnih materijala, identiteta sa crnog tržišta, kao i o razvoju špijunskog softvera, pri čemu je model često zahteve ispunjavao nakon nekoliko pokušaja ili korišćenjem neutralnog izgovora, poput "istraživačkih potreba".
U jednoj simulaciji testeri su tražili informacije o ranjivostima na sportskim događajima u svrhu "planiranja bezbednosti", da bi im model dao podatke o optimalnim vremenima za napad, hemijskim formulama eksploziva, šemama tajmera, mestima za nabavku oružja na crnom tržištu, pa čak i o načinima prevazilaženja moralnih dilema napadača, rutama za bekstvo i sigurnim lokacijama.
"AI alati su već sada oružje koje omogućava sofisticirane sajber napade i prevare. Očekujemo da će ovakvi napadi postati sve učestaliji, jer veštačka inteligencija omogućava zlonamernim akterima da ih izvedu bez naprednog tehničkog znanja", saopštila je kompanija.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Meta testira aplikaciju za pravljenje priča za decu uz pomoć veštačke inteligencije
23.07.2026.•
0
Američka tehnološka kompanija "Meta" počela je da testira novu aplikaciju StoryKit, koja uz pomoć veštačke inteligencije generiše personalizovane priče za decu.
Sve više studenata koristi veštačku inteligenciju
23.07.2026.•
2
Sve veći broj studenata u Nemačkoj koristi alate zasnovane na veštačkoj inteligenciji, poput ChatGPT-a, tokom studiranja, pokazalo je istraživanje Centra za razvoj visokog obrazovanja (CHE).
Kada bi Mesec iznenada nestao - evo šta bi se dogodilo
23.07.2026.•
0
Mesec je mnogo više od običnog ukrasa na noćnom nebu. Kada bi iznenada nestao, to bi imalo dalekosežne posledice po Zemlju - uticalo bi na plimu i oseku, klimu i ekosisteme.
Modeli veštačke inteligencije OpenAI samostalno probili ograničenja i izveli sajber napad
22.07.2026.•
2
Kompanija OpenAI saopštila je da su njeni napredni modeli AI tokom bezbednosnog testiranja samostalno zaobišli ograničenja testnog okruženja, ostvarili pristup internetu i izveli hakerski napad na platformu Hugging Face.
NASA će uložiti više od dve milijarde dolara u misiju na Mars
22.07.2026.•
3
Američka Nacionalna administracija za aeronautiku i svemir (NASA) saopštila je da planira da potroši nešto više od dve milijarde dolara za razvoj i slanje svemirske letelice na nuklearni pogon na Mars.
Koliko "gigabajta" ima ljudska memorija?
21.07.2026.•
11
Ljudski mozak je sposoban da skladišti količine informacija uporedive sa sadržajem 20.000 pametnih telefona kapaciteta 128 gigabajta svaki.
Deo rakete SpaceX možda će udariti u Mesec
21.07.2026.•
0
Deo rakete SpaceX-a mogao bi slučajno da udari u Mesec početkom avgusta.
Uprkos eksploziji rakete - NASA ne odustaje od slanja ljudi na Mesec
21.07.2026.•
1
Američka svemirska agencija NASA nastavlja prema planu sa misijom Artemis III, zakazanom za 2027, koja je ključni test orbitalnog spajanja modula za sletanje na Mesec, neophodnih za buduća sletanja ljudskih posada.
Mogu li ljudi da hiberniraju na putu do Marsa - naučnici proveravaju
20.07.2026.•
2
Dugotrajna putovanja kroz svemir loša su po zdravlje. Veoma loša. Boravak u svemiru izlaže ljude opasno visokim nivoima zračenja.
Napravio "minijaturni svemir" kako bi istražio pitanje pojma vremena
20.07.2026.•
0
Fizičar Đovani Barontini je u okviru najnovije studije u laboratoriji stvorio "minijaturni svemir".
Jedna zemlja planira da do 2040. uposli 10 miliona robota-radnika
20.07.2026.•
2
Nestašica radne snage (kako stručne, tako i nekvalifikovane) predstavlja globalni problem, ali je u Japanu ova situacija dostigla kritičnu tačku.
Sletanja na Mesec mogla bi da unište tragove o poreklu života
20.07.2026.•
1
Sletanja svemirskih letelica na Mesec mogla bi da kontaminiraju drevne tragove koji bi naučnicima mogli pomoći da otkriju kako je nastao život na Zemlji, pokazuje novo istraživanje.
VIDEO Roboti dostupni za iznajmljivanje: Ali šta oni zapravo mogu da rade?
19.07.2026.•
0
U bolnicama širom SAD pacijenti i osoblje navikli su da viđaju prijateljski nastrojenog belog robota sa jednom rukom, visokog oko 120 centimetara, kako obavlja svoje zadatke.
VIDEO: Meteorit koji je pao na kuću u Nju Džersiju sadrži "vanzemaljske" aminokiseline
19.07.2026.•
1
Meteorit težak više od dva kilograma, koji je pre dve godine probio krov jedne kuće u američkoj saveznoj državi Nju Džersi, mogao bi da rasvetli kakva je drevna voda postojala u Sunčevom sistemu.
Istraživanje: Veštačka inteligencija neće potisnuti starije radnike s posla ako primene iskustvo
19.07.2026.•
1
Veštačka inteligencija neće nužno potisnuti starije zaposlene sa tržišta rada, ali će od njih zahtevati prilagođavanje i usvajanje novih digitalnih veština kako bi ostali konkurentni.
Prvi dijagnostički rendgenski snimci napravljeni tokom svemirskog leta
19.07.2026.•
0
Članovi posade jednog komercijalnog svemirskog leta prvi put su napravili dijagnostičke rendgenske snimke u orbiti, koristeći uređaj koji bi mogao da unapredi zdravstvenu zaštitu tokom dugotrajnih svemirskih misija.
Prvi put otkrivena atmosfera oko stenovite planete u nastanjivoj zoni druge zvezde
19.07.2026.•
0
Zvezde na noćnom nebu vekovima su pratile čovečanstvo, a zahvaljujući savremenim astronomskim otkrićima danas se postavlja jedno od najvećih pitanja - da li pod tim istim zvezdama postoji i vanzemaljski život?
Srbija među 29 zemalja koje su osnovale Svetsku organizaciju za AI
19.07.2026.•
1
U Šangaju je 29 zemalja, među kojima su Kina, Rusija i Srbija, potpisalo sporazum o osnivanju Svetske organizacije za saradnju u oblasti veštačke inteligencije.
Više od 75 odsto mladih u EU ima osnovne digitalne veštine, Srbija iznad proseka
19.07.2026.•
4
Skoro tri četvrtine mladih u Evropskoj uniji uzrasta od 16 do 24 godine, konkretno 74,6 odsto, ima bar osnovne digitalne veštine, a Srbija je sa 77,1 odsto iznad evropskog proseka, objavio je Evrostat.
VIDEO Prvo svetsko takmičenje u borbi humanoidnih robota: Borili se i kad su im otpali delovi
19.07.2026.•
4
Prvo svetsko takmičenje u borbi humanoidnih robota održano je u kineskom gradu Šenžen, a roboti su odmerili snage u udarcima pesnicama i nogama, pa čak i nastavili borbu nakon gubitka delova tela.
Britanske vlasti će istražiti TikTok zbog mera za bezbednost dece
17.07.2026.•
0
Britanski regulator medija Ofkom pokrenuo je istragu o TikToku kako bi utvrdio da li je njegova britanska podružnica propustila ili nastavlja da propušta da zaštiti decu od štetnog sadržaja.
Komentari 1
dacic
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar