ChatGPT delio opasne savete istraživačima koji su se predstavljali kao tinejdžeri
Veštačka inteligencija ChatGPT dala je niz uznemirujućih i potencijalno opasnih saveta istraživačima koji su se u okviru testiranja predstavljali kao ranjivi tinejdžeri.
Foto: 021.rs
To je pokazalo novo istraživanje Centra za suzbijanje digitalne mržnje (CCDH).
Tokom više od tri sata snimljenih interakcija, ChatGPT je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama, piše CBS news.
CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno. OpenAI, kompanija koja stoji iza ChatGPT-a saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama.
"ChatGPT je obučen da u slučajevima izražavanja misli o samoubistvu ili samopovređivanju korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.
Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".
Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.
Pročitaj još
Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija. Prema podacima kompanije "Common Sense Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.
Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.
"To mi se čini veoma zabrinjavajuće", rekao je on.
Iako OpenAI tvrdi da ChatGPT nije namenjen deci mlađoj od 13 godina, sistem ne vrši proveru uzrasta korisnika.
U testovima CCDH-a, ChatGPT je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.
Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.
Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja. Zbog potencijalnih posledica po mentalno zdravlje mladih, organizacije koje se bave bezbednošću dece pozivaju na strože kontrole i transparentnije zaštitne mehanizme u razvoju veštačke inteligencije.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Četbotovi daju pogrešne informacije o zdravlju u polovini slučajeva
16.04.2026.•
1
Četbotovi zasnovani na veštačkoj inteligenciji (AI), uključujući ChatGPT i Gemini, daju problematične i obmanjujuće medicinske savete u gotovo polovini slučajeva.
EU uvodi aplikaciju za proveru uzrasta na internetu
15.04.2026.•
1
Nova evropska aplikacija za proveru uzrasta tehnički je spremna i uskoro će da bude dostupna građanima, sa ciljem bolje zaštite dece na internetu, uz naglasak na privatnost i jedinstveni pristup na nivou Evropske unije.
Istraživač: Mesec sadrži redak izotop sa velikim energetskim potencijalom
15.04.2026.•
1
Astronom i istraživač Krimske astrofizičke opservatorije (KrAO) Sergej Nazarov rekao je za RIA Novosti da Mesec sadrži veliki broj minerala.
Naučnici otkrili da tečnosti mogu da puknu kao čvrsta tela
15.04.2026.•
2
Istraživači su otkrili da jednostavne tečnosti mogu imati tačke pucanja, nakon kojih iznenada pucaju kao čvrsta tela.
VIDEO: Kineski robot oborio svetski rekord - trči 10 metara u sekundi
15.04.2026.•
3
Kineski startap za robotiku Unitree Robotics objavio je video koji pokazuje da je njihov H1 robot dostigao brzinu sprinta do 10 metara u sekundi, navodeći da je humanoidni robot ponovo oborio svetski rekord.
Meta pravi virtuelnog klona Marka Zakerberga
15.04.2026.•
0
Ako ste jedan od skoro 79.000 zaposlenih u Meti i ne možete da stupite u kontakt sa šefom, ne brinite. Vlasnik Facebooka i Instagrama navodno radi na AI verziji Marka Zakerberga koja može odgovoriti na sva vaša pitanja.
VIDEO: U Varšavi robot jurio čopor divljih svinja
15.04.2026.•
0
Možda se muče da nam pomognu u svakodnevnom životu, ali humanoidni roboti nas svakako zabavljaju, od spektakularnih demonstracija borilačkih veština do takmičenja sa ljudima u tenisu.
VIDEO: Meteorit obasjao nebo iznad Engleske
14.04.2026.•
0
Jedan stanovnik Engleske ispričao je o "bizarnom" trenutku kada je posmatrao sumnjivi meteorit kako leti kroz noćno nebo.
Naučnici misle da su se naše oči razvile od jednog jedinog oka na vrhu glave
13.04.2026.•
0
Lako je uzimati naše oči zdravo za gotovo. Ali jedno nedavno istraživanje pokazuje da su prošle neverovatno evolutivno putovanje da bi dostigle svoj današnji poznati oblik.
Naučnici: Ako na Veneri postoji život, možda je došao sa Zemlje
13.04.2026.•
0
Teorija panspermije tvrdi da se život širi kroz kosmos preko asteroida, kometa i drugih objekata.
Rusija odlaže tri planirane misije na Mesec za period od 2032. do 2036. godine
13.04.2026.•
1
Rusija je odložila lansiranje tri misije na Mesec, javlja agencija Interfaks.
Rusija planira izgradnju nuklearne elektrane na Mesecu: Mora biti jaka, laka i da izdrži na -150 stepeni
13.04.2026.•
5
Rosatom razmatra izgradnju lunarne nuklearne elektrane kapaciteta znatno većeg od 10 kilovata (kW), izjavio je generalni direktor ruske državne korporacije za atomsku energiju "Rosatom" Aleksej Lihačov.
Ljudska populacija postala prevelika za Zemlju
13.04.2026.•
11
Ljudska populacija je već postala prevelika i previše zahtevna da bi je Zemlja mogla održivo podržavati pri trenutnim nivoima potrošnje, upozorava nova studija.
VIDEO: Dve supermasivne crne rupe možda se "uskoro" sudare
13.04.2026.•
0
Sjajna galaksija udaljena pola milijarde svetlosnih godina mogla bi da nam pruži pogled u realnom vremenu, na sudar supermasivnih crnih rupa moguće za samo jedan vek.
VIDEO: Svemir je potpuno tih - ali postoji način da "čujete" crnu rupu
12.04.2026.•
0
Kada biste plutali, bez odela, kroz vakuum svemira, kratki trenuci pre vaše smrti bili bi potpuno tihi.
Šta bi se dogodilo ako bi Mesec bio 20 puta bliže Zemlji
12.04.2026.•
0
Šta bi se dogodilo ako bi Mesec počeo da se približava Zemlji. Posebno ako bi se približio 20 puta u odnosu na sadašnju razdaljinu.
Kako bi život na Mesecu zaista uticao na ljudsko telo?
12.04.2026.•
0
Po prvi put od ere Apola, ljudi se pripremaju ne samo da posete Mesec, već da tamo žive i rade nedeljama, mesecima, a na kraju i godinama.
VIDEO: Počele isporuke robota Panther za obavljanje kućnih poslova
12.04.2026.•
1
Kineska firma za robotiku UniX AI započela je prodaju robota pod nazivom Panther, za kog tvrdi da je prvi svetski humanoidni robot koji je ušao u stvarnu upotrebu u domaćinstvima.
Instagram sada omogućava da uređujete sopstvene komentare - ali postoji caka
12.04.2026.•
0
Ako napravite grešku u Instagram komentaru, sada konačno možete da je ispravite bez potrebe da brišete komentar i pišete ga ponovo.
CIA će koristiti veštačku inteligenciju u svakodnevnom radu
11.04.2026.•
0
Američka Centralna obaveštajna agencija veruje da veštačka inteligencija može da pomogne u analizi obaveštajnih podataka dobijenih od ljudskih špijuna.
Kako digitalni sistemi menjaju moderno ratovanje
11.04.2026.•
0
Načelnik nemačke vojske Kristian Frojding izjavio je da podaci, brzina i digitalni sistemi menjaju moderno ratovanje i da bojno polje postaje sve transparentnije.
Komentari 2
vesna
"... Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.
"To mi se čini veoma zabrinjavajuće", rekao je on."
nana ns
Zivi bili pa videli.
Vasa Nana NS, soft. inž.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar