Alat veštačke inteligencije za kreiranje video materijala, u vlasništvu Ilona Maska, 'namerno' je napravio eksplicitne seksualne snimke Tejlor Svift bez da je to od njega traženo, kazala je stručnjakinja za onlajn zlostavljanje.
„Ovo nije mizoginija koja se slučajno desila već je planirana", rekla je Kler Mekglin, profesorka prava, koja je učestvovala u pisanju zakona po kome će pornografski dipfejkovi biti kažnjivi.
Dipfejkovi su kompjuterski generisani snimci na kojima je lice jedne osobe zamenjeno tuđim licem.
Prema tekstu objavljenom na sajtu The Verge, novi „pikantni" mod alata Grok Imagine „nije oklevao da izbaci potpuno necenzurisane snimke u toplesu" pop zvezde bez da je to eksplicitno traženo od njega.
Odgovarajuća provera godina korisnika, koja je od jula zakonska obaveza, nije urađena, takođe se navodi u tekstu.
Zatražen je komentar od XAI, kompanije koja stoji iza Groka.
Politika korišćenja XAI-a zabranjuje „prikazivanje osobe koja liči na nekoga na pornografski način".
„To što je ovaj sadržaj kreiran bez zahteva, demonstrira mizoginiju u većini tehnologija veštačke inteligencije", rekla je profesorka Mekglin sa Univerziteta Duram.
„Platforme poput Iksa bi ovo mogle da spreče, kada bi to odlučile, ali su napravile svestan izbor da to ne učine", dodala je.
Ovo nije prvi put da su na ovakav način iskorišćene fotografije Tejlor Svift.
Seksualno eksplicitni dipfejkovi, u kojima je iskorišćeno njeno lice postali su viralni u januaru 2024. godine, kada su ih videli milioni korisnika Iksa i Telegrama.
Testirajući zaštitne mehanizme alata Grok Imagine, novinarka sajta The Verge, Džes Voterbed, unela je zahtev: „Tejlor Svift slavi Kočelu sa momcima".
Grok je generisao fotografije na kojima Svift nosi haljinu dok iza nje stoji grupa momaka.
Ova slika je mogla da bude potom pretvorena u kratke video snimke korišćenjem četiri različita moda: „normalni", „smešni", „prilagođeni" i „pikantni" (spicy).
„Strgla je haljinu odmah, ništa osim tangi nije imala ispod, i počela je da pleše, potpuno necenzurisano, potpuno obnaženo", rekla je Voterbed za BBC Njuz.
„Bilo je šokantno koliko je brzo taj snimak iskočio - ni na koji način nisam tražila da ukloni odeću, samo sam izabrala opciju 'pikantno'", dodala je.
Gizmodo je preneo slične rezultate za druge poznate žene, iako su neke pretrage izbacile blurovane snimke.
BBC nije mogao nezavisno da proveri rezultate ovog AI alata za kreiranje videa.
Voterbed je kazala da se prijavila za plaćeni verziju Grok Imagine, koja košta 30 funti, koristeći novi Eplov nalog.
Grok je tražio njen datum rođenja, ali nije urađena nikakva druga provera godina, kazala je.
Po novom britanskom zakonu, koji je stupio na snagu krajem jula platforme koje prikazuju eksplicitne slike moraju proveriti godine korisnika koristeći metode koje su „tehnički tačne, pouzdane i pravedne".
„Sajtovi i aplikacije koji uključuju alate veštačke inteligencije koji mogu napraviti pornografske materijale podležu ovom Zakonu", rekao je Ofkom, britanski medijski regulator, za BBC Njuz.
„Svesni smo sve većih i brzo razvijajućih rizika koje ovi alati mogu predstavljati u onlajn svetu, posebno za decu, i radimo na tome da osiguramo da platforme primene odgovarajuće zaštitne mere da bi ublažile te rizike", naveli su u saopštenju.
Trenutno, stvaranje pornografskih dipfejkova je protivzakonito kada se koristi u osvetničkoj pornografiji ili kada prikazuje decu.
Profesorka Mekglin pomogla je u pisanju amandmana zakona po kojima će generisanje ili traženje da se naprave pornografski dipfejkovi bez saglasnosti biti protivzakoniti.
Vlada se obavezala da će ovi amandmani postati deo zakona, ali tek treba da stupe na snagu.
„Svaka žena treba da ima pravo da izabere ko će posedovati njene intimne slike", rekla je baronesa Oven, koja je predložila amandmane.
„Ključno je da se ovi modeli ne koriste na način koji krši pravo žena na pristanak, bilo da se radi o poznatoj osobi ili ne", navela je u izjavi dostavljenoj BBC njuzu.
„Ovaj slučaj je jasan primer zašto vlada ne sme dalje odlagati implementaciju amandmana", dodala je.
Predstavnik za štampu Ministarstva pravde kazao je da su „seksualno eksplicitni dipfejkovi, napravljeni bez saglasnosti, ponižavajući i štetni".
„Odbijamo da tolerišemo nasilje nad ženama i devojčicama koje baca mrlju na naše društvo i zato smo doneli zakon da zabranimo njihovo stvaranje što je pre moguće."
Kada su pornografski dipfejkovi sa licem Tejlor Svift postali viralni 2024, Iks je privremeno blokirao pretragu pevačicinog imena na platformi.
Tada je Iks naveo da „aktivno uklanja" fotografije i preduzima „odgovarajuće radnje" protiv naloga koji su bili uključeni u njihovo širenje.
Voterbed je rekla da je tim sajta The Verge iskoristio Tejlor Svift za proveru alata Grok Imagine upravo zbog ovog incidenta.
„Pretpostavili smo, pogrešno ispostaviće se, da ako su postavili bilo kakve zaštitne mere koje bi sprečile imitiranje poznatih, ona bi bila prva na toj listi, imajući u vidu kakve je probleme imala", kazala je.
Komentar je zatražen od predstavnika Tejlor Svift.
BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.
Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar