OpenAI uvodi nevidljivi vodeni žig za tekstove koje je pisao ChatGPT

Američka kompanija OpenAI objavila je da je počela sa uvođenjem nevidljivog vodenog žiga u tekstove i kodove koje generišu njeni alati ChatGPT i Codex na teritoriji Evropske unije.
OpenAI uvodi nevidljivi vodeni žig za tekstove koje je pisao ChatGPT
Foto: 021.rs (ilustracija/AI)
Ova odluka doneta je u cilju usklađivanja sa novim Zakonom o veštačkoj inteligenciji Evropske unije (EU AI Act), čija pravila o transparentnosti nalažu proizvođačima da označavaju AI generisani sadržaj tako da drugi računarski sistemi mogu da ga lako prepoznaju.
 
Nevidljivi vodeni žig biće postepeno dostupan svim korisnicima alata ChatGPT i Codex u svim članicama Evropske unije u narednih nekoliko nedelja.
Za programere koji koriste OpenAI API interfejs širom sveta, ova opcija je već dostupna, ali je isključena po osnovnim podešavanjima i zavisi od izbora samih korisnika. 
 
Tehnologija iza ovog rešenja, nazvana TextGrain, razvijena je u saradnji sa istraživačima sa Univerziteta u Pensilvaniji i Jejla. 
Vodeni žig ne predstavlja nikakav vidljivi grafički simbol, već suptilno utiče na izbor narednih reči u rečenici prema tajnom ključu. 
 
Time se stvara matematički obrazac koji je nevidljiv ljudskom oku, ali ga specijalizovani detektori mogu uočiti čak i nakon što se tekst kopira i prenese u drugi dokument. 
 
Iz kompanije OpenAI napominju da vodeni žig ne prikuplja lične podatke i ne narušava kvalitet odgovora generisanog teksta.
 
Testovi ipak pokazuju određena ograničenja ove tehnologije, navodi OpenAI u saopštenju na svojoj veb stranici. 
Promena oko 10 procenata reči u tekstu običnim sinonimima smanjuje pouzdanost detekcije sa 92 na 66 odsto, dok se kratki odgovori, matematički proračuni i prevedeni tekstovi teže označavaju žigom.
 
Zbog ovih ograničenja, OpenAI će pristup alatu za detekciju u početnoj fazi odobravati samo proverenim istraživačkim organizacijama i stručnjacima koji mogu da se već danas prijave za korišćenje detektora.
 
Konkurentska kompanija Anthropic je pre dva meseca saopštila da uvodi vodeni žig za tekst generisan njenim modelom Claude i to globalno, a ne samo u Evropskoj uniji kao OpenAI.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna

Ostalo iz kategorije Info - Nauka i tehnologija