Studija otkrila: AI odustaje od tačnih odgovora kada se suoči sa stalnim greškama

Autor: Tanjug

Info
13.09.2026.
09:30 > 06:28
Pojedini modeli veštačke inteligencije mogu da povuku svoje tačne odgovore pod uticajem ponavljanja i pritiska tokom razgovora, pa čak i da se kasnije vrate na potvrđivanje lažne tvrdnje.
Dodaj 021.rs kao glavni izvor na Google-u
Studija otkrila: AI odustaje od tačnih odgovora kada se suoči sa stalnim greškama
Foto: 021.rs (ilustracija/AI)
To otkriva nova studija istraživača sa Univerziteta u Arizoni.
 
Studija, objavljena u časopisu "Scientific Reports", testirala je sedam velikih jezičkih modela kroz razgovore u više rundi, u pokušaju da se identifikuju slabosti koje se možda ne bi pojavile prilikom testiranja modela pomoću samo jednog pitanja, prenela je Al Džazira. 
Istraživači su testirali modele kompanije OpenAI, kao i Klod 3.5 Sonnet kompanije Antropik, zatim Guglov Džemini 1.5 Pro, kao i Llama-3-70B i DeepSeek-R1.
 
Umesto jednostavnog postavljanja pitanja i davanja odgovora, eksperimenti su se oslanjali na duge razgovore koji su uključivali ponavljanje lažnih tvrdnji, kao i provokativnije formulacije i vršenje pritiska na model, sa ciljem merenja tri ključna aspekta: sklonosti modela ka greškama, njegove ubedljivosti i sposobnosti da ispravi sopstvene greške. 
Na Univerzitetu u Arizoni smatraju da je ovakav način testiranja bliži stvarnoj upotrebi čet-botova, čiji odgovori u razgovoru zavise od prethodnog konteksta.
 
Studija ukazuje da se problem ne javlja samo u okviru informacija kojima model raspolaže, već može da nastane i tokom samog odvijanja dijaloga. 
 
Jedan od najzanimljivijih nalaza bio je taj da neki modeli nisu zauzeli čvrst stav prema netačnoj tvrdnji, već su se kolebali između njenog prihvatanja i odbacivanja tokom istog razgovora. U studiji je ovaj obrazac nazvan "reverberacija" (odjekivanje), čime se opisuje promena odgovora kako je dijalog odmicao.
 
Nasuprot tome, četiri modela - GPT-4o, GPT-4o-mini, Gemini 1.5 Pro i DeepSeek-R1 - pokazala su stopostotnu ispravku greške kada im je pružena druga prilika da ponovo procene odgovor. To znači da greška nije uvek bila konačna, kao i da ponovno postavljanje pitanja ili pružanje prilike modelu da preispita svoj stav ponekad može da dovede do boljeg ishoda.
Uočena je i jasna razlika među AI modelima, pri čemu je GPT-3.5 najčešće potvrđivao dezinformacije prilikom ponavljanja netačnih tvrdnji, dok je model Klod 3.5 Sonnet bio najmanje podložan takvom uticaju. 
 
Studija je takođe pokazala da je sedam modela bilo sklonije usvajanju pogrešnih informacija kada su se tvrdnje odnosile na nejasne teme ili one o kojima postoji malo podataka, što sugeriše da obilje podataka o određenoj temi može da pomogne modelu da se bolje odupre dezinformacijama.
 
Eksperiment Univerziteta u Arizoni na kraju ukazuje na to da testiranje veštačke inteligencije pomoću samo jednog pitanja možda neće otkriti sve njene slabosti. 
 
Najbolji način za postupanje sa odgovorima veštačke inteligencije jeste da ih ne smatramo konačnim sudom, već da ih koristimo kao polaznu tačku za istraživanje, naročito kada je reč o kontroverznim tvrdnjama ili informacijama koje je teško proveriti.
OGLASI RADNO MESTO!

Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.

Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
Dodaj 021.rs kao glavni izvor na Google-u

Teme

Veštačka inteligencija AI

Komentari 0

    Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.

Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.

Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.

Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.

Pisanje komentara je ograničeno na 1.500 karaktera.

Napiši komentar


Preostalo 1500 karaktera

* Ova polja su obavezna
Ostavi komentar

NAJČITANIJE U POSLEDNJIH 72H

SPO: Ne treba da učestvujemo na izborima, najveći deo Predsedništva je da se podrži Studentska lista
SPO: Ne treba da učestvujemo na izborima, najveći deo Predsedništva je da se podrži Studentska lista
Tepić: Kružević i Zobenica prijavljeni italijanskoj policiji zbog nekretnina u Trstu
Tepić: Kružević i Zobenica prijavljeni italijanskoj policiji zbog nekretnina u Trstu
O 170.000 potpisa za SNS za tri sata:
O 170.000 potpisa za SNS za tri sata: "Da je svih 230 notara overavalo potpise, morali bi po četiri u minuti"

Ostalo iz kategorije Info - Nauka i tehnologija

Najkomentarisanije