AI aplikacija za transkripciju "halucinira" i dopisuje izmišljene rečenice
Aplikacija za transkripciju govora koja radi uz pomoć veštačke inteligencije Visper, tehnološkog džina OpenAI, sklona je da tokom rada dopisuje u tekst i cele izmišljene rečenice.
Foto: Pixabay (ilustracija)
Više od deset softverskih inženjera, programera i akademskih istraživača navodi da taj novi alat kojeg je OpenAI pri lansiranju reklamirao da radi tačno poput čoveka, "halucinira" i dodaje reči.
Stručnjaci kažu da su takve izmišljotine problematične jer se Visper koristi u nizu industrija širom sveta za prevođenje i transkripciju intervjua, generisanje teksta u popularnim potrošačkim tehnologijama i kreiranje titlova za video snimke.
Još više zabrinjava, kažu oni, žurba medicinskih centara da koriste takve alate za transkripciju konsultacija pacijenata sa lekarima, uprkos upozorenjima OpenAI da se ta alatka ne sme koristiti u "domenima visokog rizika".
Puni obim problema je teško uočiti, ali istraživači i inženjeri kažu da su često nailazili na "halucinacije" Vispera. Jedan istraživač Univerziteta u Mičigenu koji je sproveo studiju je kazao da je našao "halucinacije" u čak 80 odsto transkripcija koje je pregledao.
Jedan inženjer za mašinsko učenje rekao je da je odmah otkrio "halucinacije" u polovini od preko 100 sati transkripcija Vispera koje je analizirao, a jedan programer da ih je našao u skoro svakom od 26.000 transkripata koje je napravio pomoću Vispera.
Takve greške mogu imati "teške posledice", posebno u bolnicama, rekla je Alondra Nelson koja je do prošle godine vodila Kancelariju Bele kuće za nauku i tehnologiju.
"Visper se koristi za kreiranje titlova za gluve i nagluve koji su posebno izloženi riziku od pogrešnih transkripcija jer nemaju način da identifikuju izmišljotine skrivene u tekstovima", rekao je Kristijan Vogler koji je gluv, a rukovodi programom pristupa tehnologiji Univerziteta Gallaudet.
Portparol OpenAI je rekao da kompanija kontinuirano proučava kako da smanji "halucinacije" i da ceni nalaze istraživača, dodajući da OpenAI u ažuriranje modela uključuje povratne informacije.
Profesori Allison Keneke sa Univerziteta Cornell i Mona Sloun sa Univerziteta Virdžinije ispitali su hiljade kratkih isečaka.
U primerima koji su otkrili, jedan govornik je rekao: "On, dečak, hteo je - nisam baš siguran - da uzme kišobran", ali softver za transkripciju je dodao: "Uzeo je veliki deo krsta, mali, mali deo... Siguran sam da nije imao nož za terorizam pa je ubio veliki broj ljudi".
Govornik na drugom snimku opisao je "dve druge devojke i jednu damu", A Visper je izmislio dodatni komentar o rasi, dodavši: "dve druge devojke i jednu damu, hm, koje su bile crne".
U trećoj transkripciji, Visper je izmislio lek pod nazivom "hiperaktivirani antibiotici".
Istraživači nisu sigurni zašto Visper i slični alati "haluciniraju", ali programeri softvera kažu da se to obično dešava usled pauza u govoru ili mešanja zvukova ili muzike iz pozadine.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Zabava - Zanimljivosti
Pedeset godina Ford Fijeste: Automobil koji je jednostavnošću osvojio Evropu
25.05.2026.•
0
Kada je Fordu trebala promenu, Lido Iakoka dobro je razumeo evropsko tržište koje ga je frustriralo činjenicom da Ford tamo nema adekvatnog predstavnika u mini segmentu automobila.
Američko ministarstvo odbrane objavilo nova dokumenta o NLO
24.05.2026.•
0
Američko ministarstvo odbrane objavilo je novu seriju prethodno poverljivih dokumenata o neidentifikovanim letećim objektima (NLO), odnosno neidentifikovanim anomalnim pojavama (UAP).
Ljudi u Andima razvili su neobičnu digestivnu "supermoć"
24.05.2026.•
0
Uprkos svom uspehu kao vrste na vrhu lanca, čovečanstvo verovatno nikada neće prestati da evoluira.
Bebe se rađaju sa 100 kostiju više nego što imaju odrasli: Ovo su razlozi
24.05.2026.•
0
Rođeni ste sa skoro 100 kostiju više nego što ih imate danas. Do odraslog doba, većina njih se spojila - ne slučajno, već zahvaljujući preciznom biološkom planu.
VIDEO: "Vrata pakla" u Turkmenistanu gore već 40 godina - i niko ne zna zašto
24.05.2026.•
1
Zašto "Vrata pakla" u pustinji Karakum u Turkmenistanu i dalje gore?
Naučnici možda konačno znaju zašto je T. reks imao tako male ruke
24.05.2026.•
0
Verovatno mu to ne biste rekli u lice, ali čuveni zastrašujući Tiranosaurus reks dugo je bio predmet šala o sićušnim rukama. Ali novo istraživanje moglo bi da objasni njegove smešne ručice.
Naučnici su ljudima dali krila u virtuelnoj stvarnosti - to je izazvalo promene u mozgu
24.05.2026.•
0
Uranjanje u virtuelnu stvarnost (VR) može izazvati čudne stvari u mozgu, što pokazuje nova studija.
Dva drevna traga možda objašnjavaju zašto je 90 odsto ljudi desnoruko
24.05.2026.•
0
Nije važno odakle ste ili kakvo kulturno poreklo imate - oko 90 odsto ljudi je desnoruko. Da li ste se ikada zapitali zašto?
Biolog objašnjava zašto ljudi plaču - koja je prava svrha suza
24.05.2026.•
1
U delu "The Expression of the Emotions in Man and Animals", objavljenom 1872. Čarls Darvin proglasio je čin emocionalnog plakanja ljudi "besmislenim", opisujući ga kao epifenomen, odnosno biološku fusnotu.
Deo stepeništa Ajfelovog tornja prodat za više od 450 hiljada evra
23.05.2026.•
0
Spiralni segment originalnog stepeništa Ajfelovog tornja prodat je za više od 450 hiljada evra na aukciji u Parizu u četvrtak.
Danas je Međunarodni dan Šerloka Holmsa
22.05.2026.•
1
Od zgrade u Ulici Bejker 221B u centru Londona, do vodopada na litici u Švajcarskim Alpima, generacije "detektiva iz fotelje" danas slave Međunarodni dan Šerloka Holmsa.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar