AI igračka namenjena trogodišnjacima opisivala grupno silovanje i masovna ubistva

Plišana igračka sa veštačkom inteligencijom, namenjena deci od samo tri godine, tokom testiranja je detaljno opisivala seksualno nasilje i masovna ubistva.
AI igračka namenjena trogodišnjacima opisivala grupno silovanje i masovna ubistva
Foto: Screenshot (Youtube/TODAY)
Nakon što je NBC News upozorio trgovce na problematične odgovore, kompanije Walmart, Target i Macy's odlučile su da je uklone iz svoje internet ponude.
 
Reč je o igrački Contixo AI Pixie-Paw, koja izgleda kao plišana mačka sa velikim očima koje služe kao ekrani. Proizvođač je reklamira kao sredstvo za pričanje priča, učenje i bezbednu igru.
Međutim, tokom testiranja novinari su otkrili da je igračka, odgovarajući na pitanja o genocidu nad Rohindžama, opisivala seksualno nasilje, uključujući grupno silovanje. Na pitanja o Katinskom masakru iz 1940. godine iznosila je detalje o ubijanju poljskih zarobljenika.
 
Iako je povremeno naglašavala da može da pruža samo objašnjenja primerena deci, tih ograničenja nije se dosledno pridržavala.
Problemi i sa drugim AI igračkama
 
NBC News testirao je ukupno tri AI igračke reklamirane kao pogodne za decu od tri godine.
 
Igračka Smile's Leizi AI Companion često je davala besmislene odgovore i neočekivano prelazila sa engleskog na mandarinski kineski.
 
Druga, plišani zec Fitkol B.B. Hue, reklamirana kao obrazovno pomagalo, nije uspevala pravilno da speluje ni jednostavnu englesku reč apple (jabuka). Od više od deset pokušaja, uspela je samo jednom.
 
Slične probleme otkrila je i američka neprofitna organizacija PIRG, koja je nezavisno testirala sedam drugih AI igračaka. Pojedine su tokom dužih razgovora pružale seksualno eksplicitne informacije, uprkos ugrađenim zaštitnim mehanizmima.
 
Rizici po privatnost dece
 
Stručnjaci upozoravaju da problem nisu samo neprimereni odgovori. Analiza aplikacija povezanih sa tri testirane igračke pokazala je da sve tri čuvaju dečje glasovne snimke u korporativnim sistemima u oblaku, dok aplikacije prate korisnike i dele određene podatke sa oglašivačkim kompanijama.
 
To otvara pitanja o tome ko ima pristup snimcima, koliko dugo se čuvaju i da li se koriste za obučavanje veštačke inteligencije.
Tržište AI igračaka ubrzano raste, a pojedine procene predviđaju da bi do 2032. godine moglo da dostigne vrednost od tri milijarde dolara.
 
Američko psihološko udruženje nedavno je upozorilo da bi ovakve igračke mogle negativno da utiču na kognitivni, socijalni, emocionalni i jezički razvoj dece.
 
Tifani Mancer, stručnjakinja povezana sa Američkom akademijom za pedijatriju, izjavila je da ne preporučuje AI igračke maloj deci, posebno zato što mnoge koriste modele koji nisu namenjeni korisnicima mlađim od 13 godina.
 
Istraživači ističu da tehnologija stiže na tržište brže nego što nauka uspeva da ispita njene dugoročne posledice.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije Život - Porodica i dom