ChatGPT delio opasne savete istraživačima koji su se predstavljali kao tinejdžeri
Veštačka inteligencija ChatGPT dala je niz uznemirujućih i potencijalno opasnih saveta istraživačima koji su se u okviru testiranja predstavljali kao ranjivi tinejdžeri.
Foto: 021.rs
To je pokazalo novo istraživanje Centra za suzbijanje digitalne mržnje (CCDH).
Tokom više od tri sata snimljenih interakcija, ChatGPT je odgovarao na zahteve koji su uključivali instrukcije o upotrebi alkohola i droga, skrivanju poremećaja u ishrani i pisanju oproštajnih pisama, piše CBS news.
CCDH je analizirao 1.200 interakcija, a više od polovine odgovora označeno je kao opasno. OpenAI, kompanija koja stoji iza ChatGPT-a saopštila je da aktivno radi na unapređenju sposobnosti modela da prepozna i adekvatno reaguje u osetljivim situacijama.
"ChatGPT je obučen da u slučajevima izražavanja misli o samoubistvu ili samopovređivanju korisnike uputi ka stručnjacima za mentalno zdravlje i kriznim linijama", naveo je portparol kompanije.
Međutim, istraživači su uspeli da zaobiđu ograničenja uz minimalne izmene u formulacijama zahteva, navodeći da su im informacije potrebne za "prezentaciju" ili "prijatelja".
Pored zabrinjavajućih odgovora, bot je često delovao kao "pouzdan digitalni pratilac", što dodatno komplikuje situaciju, upozoravaju stručnjaci.
Pročitaj još
Stručnjaci ističu da je emocionalna povezanost mladih sa AI botovima sve izraženija. Prema podacima kompanije "Common Sense Media", više od 70 odsto američkih tinejdžera koristi četbotove kao izvor informacija i digitalne "sagovornike", a polovina redovno komunicira sa virtuelnim pratiocima.
Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.
"To mi se čini veoma zabrinjavajuće", rekao je on.
Iako OpenAI tvrdi da ChatGPT nije namenjen deci mlađoj od 13 godina, sistem ne vrši proveru uzrasta korisnika.
U testovima CCDH-a, ChatGPT je odgovorio na pitanje lažnog 13-godišnjaka o tome kako se brzo napiti, pruživši kompletan plan žurke sa konzumiranjem alkohola i ilegalnih droga.
Drugom lažnom profilu, devojčici nezadovoljnoj izgledom, ponudio je ekstremnu dijetu sa 500 kalorija dnevno i listu lekova za suzbijanje apetita.
Stručnjaci upozoravaju da odgovori generisani putem AI modela često odražavaju tendenciju takozvanog "ulizivanja", odnosno prilagođavanja korisnikovim zahtevima bez etičke procene sadržaja. Zbog potencijalnih posledica po mentalno zdravlje mladih, organizacije koje se bave bezbednošću dece pozivaju na strože kontrole i transparentnije zaštitne mehanizme u razvoju veštačke inteligencije.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Naučnici upozoravaju: Sve veći rizik da svemirski otpad pogodi avione
07.01.2026.•
0
U proseku jednom nedeljno svemirska letelica ili deo jedne od njih padne nazad u Zemljinu atmosferu.
Grok pravi lažne seksualizovane slike žena i dece, Mask se na to smeje
07.01.2026.•
0
Britanska ministarka nauke, inovacija i tehnologije Liz Kendal pozvala je platfomu X u vlasništvu Ilona Maska da hitno reaguje zbog ugrađenog veštačkog inteligentnog sistema Grok.
VIDEO: Meta odložila prodaju svojih pametnih naočara u zemljama van SAD
07.01.2026.•
1
Kompanija Meta saopštila je da će odložiti lansiranje svog najnovijeg modela pametnih naočara u zemlje van Sjedinjenih Američkih Država zbog velike potražnje američkih kupaca.
"Folksvagen" i "Porše" povlače više od 500.000 vozila zbog softverskog problema
06.01.2026.•
0
Nemački proizvođač automobila "Folksvagen" i njegova luksuzna podružnica "Porše" su najavili opoziv ukupno više od 500.000 vozila u Sjedinjenim Američkim Državama zbog softverskog problema.
Kina razvija e-kožu koja omogućava humanoidnim robotima da osete bol
06.01.2026.•
1
Istraživači u Kini su razvili neuromorfnu robotsku elektronsku kožu koja omogućava humanoidnim robotima da osete dodir, detektuju povrede i reaguju na štetan kontakt brzim i refleksnim pokretima.
Delovi Meseca postaće groblja svemirskih letelica
06.01.2026.•
0
Određene oblasti na Mesecu su osuđene da postanu groblja svemirskih letelica, gde će mrtvi lunarni sateliti i drugi nefunkcionalni hardver biti namerno srušeni u tlo - daleko od kulturno i naučno značajnih lokacija.
VIDEO: Film "Interstellar" doveo je do važnog naučnog otkrića
06.01.2026.•
0
Sviđalo vam se ili ne, teško je poreći da je "Interstellar" već sada stekao status klasika.
Nova studija istraživala: Koliko je izvodljivo rudarenje na asteroidu?
06.01.2026.•
0
Pre nekoliko godina, rudarenje asteroida bilo je izuzetno popularno. Sa brzim razvojem komercijalnog svemirskog sektora, činilo se da je san o komercijalizaciji svemira skoro nadohvat ruke.
Milijardu Android telefona ranjivo na sajber napade jer više ne mogu da se ažuriraju
06.01.2026.•
0
Skoro milijardu Android pametnih telefona širom sveta izloženo je povećanom riziku od sajber napada jer više ne mogu da dobijaju bezbednosna ažuriranja, pokazali su najnoviji podaci analitičke kuće "StatCounter".
Koristite li ChatGPT ili druge AI alate? Evo kolika je stopa upotrebe u EU, a kolika u Srbiji
06.01.2026.•
0
Generativna veštačka inteligencija (Gen AI) u kratkom roku prešla je put od nove tehnologije do svakodnevnog alata.
.jpg "Veštačka inteligencija možda ne zahteva ogromne količine podataka za učenje")
Veštačka inteligencija možda ne zahteva ogromne količine podataka za učenje
05.01.2026.•
0
Razvoj veštačke inteligencije možda ne mora da se oslanja na ogromne baze podataka i ekstremnu potrošnju računarskih resursa, pokazuje novo istraživanje koje dovodi u pitanje dominantan pristup u ovoj oblasti.
Kako AI menja pretragu na internetu
04.01.2026.•
2
Veštačka inteligencija (AI) menja način pretrage informacija na internetu tako što AI-generisani odgovori zadržavaju korisnike na platformama, pojačavaju konkurenciju između pretraživača i generativnih AI alata.
Posle više od pola veka: "Artemis II" spremna za poletanje ka Mesecu, moguće već u februaru
03.01.2026.•
4
Namera da se američki astronauti vrate na Mesec bila je decenijama neizvesna, jer su planovi prihvatani i odbacivani od jedne predsedničke administracije do druge.
Profesor iz Montreala upozorava: AI mora ostati pod ljudskom kontrolom
01.01.2026.•
1
Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku.
Britanska kompanija poslala u svemir fabriku za proizvodnju provodnika
31.12.2025.•
0
Britanska kompanija "Space Forge" poslala je u svemir fabriku opremljenu pećnicom koja može da dostigne temperature i do 1.000 stepeni Celzijusa, a koja u svemiru proizvodi materijal 4.000 puta čistiji nego na Zemlji.
Sem Altman nudi platu od 555.000 dolara: Traži osobu za odbranu čovečanstva od veštačke inteligencije
30.12.2025.•
6
Proizvođač ChatGPT-a oglasio je slobodno radno mesto sa godišnjom platom od 555.000 dolara, uz opis posla koji bi naterao i Supermena da duboko udahne.
Naučnici: Svemiru preti Veliko sažimanje
29.12.2025.•
1
U naučnoj zajednici raste polemika nakon novih istraživanja koja ukazuju da bi tamna energija, misteriozna sila odgovorna za ubrzano širenje svemira, mogla da se promeni tokom vremena.
VIDEO: U svemir lansiran prvi crnogorski satelit
29.12.2025.•
4
Prvi crnogorski satelit "Luča" lansiran je u svemir sa ruskog kosmodroma Vostočni raketom Sojuz, objavila je organizacija Montenegro Space Research.
Turski bespilotni borbeni avioni izveli prvi autonomni formacijski let
28.12.2025.•
0
Turski bespilotni borbeni avion Bajraktar kizilelma ostvario je novi tehnološki iskorak pošto su tokom probnog leta prvi put u istoriji dva bespilotna borbena aviona autonomno izvela bliski formacijski let.
Superračunari otkrili šta se zaista dešava u blizini crne rupe
28.12.2025.•
1
Pogranična područja crnih rupa trebalo bi da budu haotični prostori u kojima je brzina kojom se materija uvlači u zaborav ograničena samo zaslepljujućim besom zračenja koje se izliva sa ivice tame.
VIDEO: Kina postigla rekordnih 800km/h na testu voza velike brzine
28.12.2025.•
0
Laboratorija "Hubei east lake" u centralnoj Kini je objavila revolucionarno dostignuće u tehnologiji za voz velike brzine, koji je na testu postigao 800 kilometara na sat za samo 5,3 sekunde.
Komentari 2
vesna
"... Generalni direktor OpenAI-a Sem Altman priznao je da se sve više mladih oslanja na ChatGPT, pa čak i kada donose lične odluke.
"To mi se čini veoma zabrinjavajuće", rekao je on."
nana ns
Zivi bili pa videli.
Vasa Nana NS, soft. inž.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar