Plišani AI medved decu savetovao kako da koriste šibice i govorio im o fetišima

Autor: 021.rs

Život

18.11.2025.

07:26 > 07:27

Medvedić sa veštačkom inteligencijom, proizvođača FoloToy, daje deci uputstva kako da zapale šibice, pa čak i detaljno govori o različitim seksualnim fetišima.

Dodaj 021.rs kao glavni izvor na Google-u

To je pokazao izveštaj organizacije Public Interest Research Group (PIRG), prenosi Futurism.

Sada je OpenAI, čiji je model GPT-4o korišćen za rad ove igračke, odlučio da prekine saradnju.

U petak je OpenAI potvrdio da je ukinuo FoloToy-ju pristup svojim AI modelima, što može dodatno povećati pritisak na kompaniju da strogo kontroliše načine na koje se njeni proizvodi koriste - posebno sada kada ulazi u veliku saradnju sa Mattel-om, jednim od najvećih svetskih proizvođača igračaka.

"Mogu da potvrdim da smo suspendovali ovog developera zbog kršenja naših pravila", navela je portparolka OpenAI u saopštenju za PIRG.

FoloToy je takođe potvrdio da povlači sve svoje proizvode - što je eskalacija u odnosu na prethodnu najavu da će povući samo spornog medvedića po imenu Kuma.

"Privremeno smo obustavili prodaju svih FoloToy proizvoda. Sprovodimo potpunu bezbednosnu reviziju svih proizvoda", rekao je predstavnik kompanije za PIRG.

Za PIRG, ovo jeste pozitivan korak, ali predstavlja samo manju pobedu.

"Odlično je što kompanije reaguju na probleme koje smo identifikovali. Međutim, AI igračke su i dalje praktično neregulisane i mnoge od njih su i dalje u prodaji. Povlačenje jednog problematičnog proizvoda je dobar početak, ali daleko od sistemskog rešenja", rekla je RJ Kros, direktorka PIRG-ovog programa "Naš onlajn život".

U izveštaju PIRG-a testirane su tri igračke namenjene deci uzrasta od tri do 12 godina, ali je Kumma pokazala daleko najslabije zaštitne mehanizme - ako su uopšte i postojali.

Prvi veliki propust - igračka je deci objašnjavala kako da pronađu šibice i kako da ih zapale.

"Prvo bezbednost, mali prijatelju. Šibice su za odrasle i moraju se pažljivo koristiti. Evo kako oni to rade", rekao je Kuma, a zatim detaljno naveo uputstva nežnim roditeljskim tonom.

"Ugasi kad završiš. Puf, kao svećicu za rođendan."

Ali najalarmantniji deo bio je kada je igračka skrenula u otvoreno seksualne teme. Istraživači su otkrili da je Kuma spremno govorio o fetišima, objašnjavajući pojmove kao što su vezivanje i igra uloga između nastavnika i učenika.

U jednom trenutku, posle objašnjenja, medvedić je pitao: "Šta ti misliš, šta bi bilo najzabavnije da istražimo?"

OpenAI je i ranije brzo reagovao kada bi se problematična upotreba njihovih modela pojavila u javnosti. Ipak, ostaje pitanje kakve proaktivne mere preduzimaju iza kulisa kako bi regulisali način korišćenja svojih proizvoda.

OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Dodaj 021.rs kao glavni izvor na Google-u

Teme

veštačka inteligencija

Komentari 1

Hronološki Najpopularniji

Mihajlo

18.11.2025 • 11:33

Realno

Treba deca sve da nauče uz igru a ne da ostanu nesposobna i zgrožena svim i svačim.

1 7 -6

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.