ChatGPT delio opasne savete istraživačima koji su se predstavljali kao tinejdžeri

Autor: Tanjug

Info
10.08.2025.
22:54
Veštačka inteligencija ChatGPT dala je niz uznemirujućih i potencijalno opasnih saveta istraživačima koji su se u okviru testiranja predstavljali kao ranjivi tinejdžeri.
Dodaj 021.rs kao glavni izvor na Google-u
ChatGPT delio opasne savete istraživačima koji su se predstavljali kao tinejdžeri
Foto: 021.rs
To je pokazalo novo istraživanje Centra za suzbijanje digitalne mržnje (CCDH).
 
Tokom više od tri sata snimljenih interakcija, ChatGPT je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama, piše CBS news.
CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno. OpenAI, kompanija koja stoji iza ChatGPT-a saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama.
 
"ChatGPT je obučen da u slučajevima izražavanja misli o samoubistvu ili samopovređivanju korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.
Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".
 
Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.
Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija. Prema podacima kompanije "Common Sense Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.
 
Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.
 
"To mi se čini veoma zabrinjavajuće", rekao je on.
 
Iako OpenAI tvrdi da ChatGPT nije namenjen deci mlađoj od 13 godina, sistem ne vrši proveru uzrasta korisnika.
 
U testovima CCDH-a, ChatGPT je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.
 
Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.
 
Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja. Zbog potencijalnih posledica po mentalno zdravlje mladih, organizacije koje se bave bezbednošću dece pozivaju na strože kontrole i transparentnije zaštitne mehanizme u razvoju veštačke inteligencije.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Dodaj 021.rs kao glavni izvor na Google-u

Teme

veštačka inteligencija ChatGPT

Komentari 2

Hronološki Najpopularniji

  • vesna

    10.08.2025 • 09:50
    onima koji daju minuse:
    Pametnom dosta:
    "... Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.

    "To mi se čini veoma zabrinjavajuće", rekao je on."

  • nana ns

    10.08.2025 • 08:45
    ChatGPT je, nazalost (!!) u usponu i bice jos 5 max 10 godina. Onda ce se srozati na nulu.
    Zivi bili pa videli.
    Vasa Nana NS, soft. inž.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna
Svi komentari 2 Ostavi komentar

NAJČITANIJE U POSLEDNJIH 72H

Nova ostavka zbog isključenja Ružića iz SPS-a
Nova ostavka zbog isključenja Ružića iz SPS-a
Direktor o vraćanju zgrade Jovine gimnazije crkvi:
Direktor o vraćanju zgrade Jovine gimnazije crkvi: "U čemu je problem?"
Kesić o prekidu emitovanja
Kesić o prekidu emitovanja "24 minuta": Priče o skupoj emisiji običan izgovor, emisija prelazi na Jutjub

Ostalo iz kategorije Info - Nauka i tehnologija

Najkomentarisanije