Plišani AI medved decu savetovao kako da koriste šibice i govorio im o fetišima
Medvedić sa veštačkom inteligencijom, proizvođača FoloToy, daje deci uputstva kako da zapale šibice, pa čak i detaljno govori o različitim seksualnim fetišima.
Foto: Screenshot (Youtube/B.C. Begley)
To je pokazao izveštaj organizacije Public Interest Research Group (PIRG), prenosi Futurism.
Sada je OpenAI, čiji je model GPT-4o korišćen za rad ove igračke, odlučio da prekine saradnju.
U petak je OpenAI potvrdio da je ukinuo FoloToy-ju pristup svojim AI modelima, što može dodatno povećati pritisak na kompaniju da strogo kontroliše načine na koje se njeni proizvodi koriste - posebno sada kada ulazi u veliku saradnju sa Mattel-om, jednim od najvećih svetskih proizvođača igračaka.
"Mogu da potvrdim da smo suspendovali ovog developera zbog kršenja naših pravila", navela je portparolka OpenAI u saopštenju za PIRG.
FoloToy je takođe potvrdio da povlači sve svoje proizvode - što je eskalacija u odnosu na prethodnu najavu da će povući samo spornog medvedića po imenu Kuma.
"Privremeno smo obustavili prodaju svih FoloToy proizvoda. Sprovodimo potpunu bezbednosnu reviziju svih proizvoda", rekao je predstavnik kompanije za PIRG.
Za PIRG, ovo jeste pozitivan korak, ali predstavlja samo manju pobedu.
"Odlično je što kompanije reaguju na probleme koje smo identifikovali. Međutim, AI igračke su i dalje praktično neregulisane i mnoge od njih su i dalje u prodaji. Povlačenje jednog problematičnog proizvoda je dobar početak, ali daleko od sistemskog rešenja", rekla je RJ Kros, direktorka PIRG-ovog programa "Naš onlajn život".
U izveštaju PIRG-a testirane su tri igračke namenjene deci uzrasta od tri do 12 godina, ali je Kumma pokazala daleko najslabije zaštitne mehanizme - ako su uopšte i postojali.
Prvi veliki propust - igračka je deci objašnjavala kako da pronađu šibice i kako da ih zapale.
"Prvo bezbednost, mali prijatelju. Šibice su za odrasle i moraju se pažljivo koristiti. Evo kako oni to rade", rekao je Kuma, a zatim detaljno naveo uputstva nežnim roditeljskim tonom.
"Ugasi kad završiš. Puf, kao svećicu za rođendan."
Pročitaj još
Ali najalarmantniji deo bio je kada je igračka skrenula u otvoreno seksualne teme. Istraživači su otkrili da je Kuma spremno govorio o fetišima, objašnjavajući pojmove kao što su vezivanje i igra uloga između nastavnika i učenika.
U jednom trenutku, posle objašnjenja, medvedić je pitao: "Šta ti misliš, šta bi bilo najzabavnije da istražimo?"
OpenAI je i ranije brzo reagovao kada bi se problematična upotreba njihovih modela pojavila u javnosti. Ipak, ostaje pitanje kakve proaktivne mere preduzimaju iza kulisa kako bi regulisali način korišćenja svojih proizvoda.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Život - Porodica i dom
Kineski grad mladim parovima daje vaučere ako se venčaju
17.11.2025.•
0
Vlasti istočnog kineskog grada Ningbo izdavaće bračne vaučere parovima koji stupe u brak između 28. oktobra i 31. decembra, u nastojanju da ohrabre mlade da se venčavaju i dobiju decu.
Najavljeno duže porodiljsko u Srbiji, a evo koliko traje u drugim evropskim zemljama
12.11.2025.•
5
Ministarstvo za rad, zapošljavanje, boračka i socijalna pitanja Srbije najavilo je izmene Zakona o radu sa fokusom na roditelje, duže porodiljsko odsustvo i veću podršku porodicama.
Naučnici otkrili znak koji u trudnoći najavljuje rizik od depresije
09.11.2025.•
0
Perinatalna depresija, koja pogađa otprilike jednu od pet žena tokom trudnoće ili neposredno nakon porođaja, često ostaje neprepoznata, a posledice mogu biti dugoročne za majku i dete.
Švedska agencija za hemikalije: U lažnim Labubu lutkama ima opasnih supstanci
09.11.2025.•
0
Švedska agencija za hemikalije otkrila je visok nivo zabranjene supstance DEHP u lažnim lutkama Labubu sa mekim punjenjem.
Nemački lekari uspeli da u životu održe bebu koja je imala samo 300 grama
30.10.2025.•
1
Lekari Univerzitetske bolnice u Magdenburgu uspeli su da održe u životu prevremeno rođenu devojčicu koja je bila teška samo 300 grama, dovoljno dugo da počne da se samostalno razvija, prenosi Bild.
Malta će smanjiti porez na dohodak roditelja da bi povećala natalitet
28.10.2025.•
1
Malta je najavila da će smanjiti porez na dohodak za roditelje dvoje ili više dece, u nastojanju da podstakne veći natalitet.
Najpopularnije pesme koje žene slušaju na porođaju
26.10.2025.•
1
Tokom trudnoće mnoge žene maštaju o idealnom okruženju u kom će njihova beba doći na svet. Iako retko koji porođaj teče tačno prema planu, mnoge trudnice svejedno sastavljaju popis želja kako bi sebi olakšale iskustvo.
Novo istraživanje otkriva zašto je veća šansa da se vantelesnom oplodnjom rodi dečak
26.10.2025.•
0
Prema novoj studiji, više od polovine beba začetih vantelesnom oplodnjom (IVF) su muškog pola - tačnije, 56 odsto njih.
Roditeljske Viber grupe - slika društva u malom
26.10.2025.•
10
Nešto što je započeto kao praktičan način da se roditelji dogovore oko izleta, poklona ili dečijih aktivnosti, podele informacije oko domaćih zadataka, danas je postalo mnogo više.
Dve trećine razvedenih Amerikanaca se ponovo venča nakon razvoda
19.10.2025.•
0
Dve trećine Amerikanaca koji su se razveli ponovo se venča, pokazala je analiza istraživačkog centra "Pju" zasnovana na federalnim podacima.
Deca objavljuju šaljive AI snimke sa navodnim beskućnikom, policija traži da prestanu
13.10.2025.•
1
Deca već neko vreme koriste AI kako bi kreirala fotografije osobe koja izgleda kao beskućnik u svom domu i poslala ih roditeljima, zbog čega oni u nekim slučajevima zovu policiju.
FOTO, VIDEO: Više od 600 parova se venčalo na kolektivnoj svadbi u Paragvaju
05.10.2025.•
0
Više od 600 parova venčalo se na kolektivnoj svadbi u gradu Asunsion u Paragvaju, u okviru vladine inicijative da se građanska venčanja učine pristupačnijim širom te zemlje.
Veliki izbor trpezarijskih stolova i stolica uz sajamske popuste u Geppetto salonu nameštaja
01.10.2025.•
0
Trpezarija je mesto gde porodica i prijatelji dele trenutke. Zato stolovi i stolice moraju biti više od običnog nameštaja.
FOTO, VIDEO: Albanska poslanica bila na sastanku u parlamentu sa svojom bebom starom 38 dana
01.10.2025.•
2
Poslanica Socijalističke partije u skupštini Albanije Ilva Đuzi prisustvovala je sastanku Parlamentarnog odbora za prirodne resurse, infrastrukturu i održivi razvoj, sve vreme držeći u naručju svoju bebu staru samo 38 da
Poljski lanac hotela nudi nagrade onima koji začnu bebu u njihovim objektima
21.09.2025.•
1
Poljski lanac hotela uvodi nagradu za parove koji začnu bebe u njihovim objektima kako bi pomogli demografski oporavak zemlje u kojoj je stopa nataliteta već 12 godina konstantno u padu.
Istraživanje pokazalo: 80 odsto mama u Srbiji suočava se sa postporođajnom tugom
16.09.2025.•
2
Istraživanje "Mentalno zdravlje mama u postporođajnom periodu" pokazalo je da postporođajnu tugu - "baby blues", u prvih šest meseci nakon porođaja doživljava i do 80 odsto porodilja, objavio je Centar za mame.
Misisipi proglasio vanredno stanje zbog porasta stope smrtnosti novorođenčadi
26.08.2025.•
0
Zdravstveni zvaničnici američke savezne države Misisipi proglasili su vanredno stanje u javnom zdravstvu zbog najnovijih podataka o porastu stope smrtnosti među tek rođenim bebama.
Danske vlasti oduzele bebu majci s Grenlanda jer "nije dovoljno Grenlanđanka"
24.08.2025.•
7
Danske vlasti oduzele su bebu mladoj Grenlanđanki Ivani Nikolini Bronlund svega sat vremena nakon porođaja.
SZO: Fizičko kažnjavanje dece je globalni problem javnog zdravlja
21.08.2025.•
0
Svetska zdravstvena organizacija proglasila je telesno kažnjavanje globalnim problemom javnog zdravlja koji uzrokuje ozbiljnu štetu fizičkom i mentalnom blagostanju dece.
Helen Doron kurs engleskog jezika - 40 godina kvaliteta
20.08.2025.•
0
Kada je Helen Doron odvela, pre 40 godina, svoju kćerku na časove violine prema čuvenom Suzuki metodu, jednostavna rečenica: "Mi ovde podučavamo jezik muzike!" je pokrenula lavinu ideja.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar