Studija sa Stanforda: Četbotovi nam se toliko ulizuju da daju pogrešne odgovore i savete
Četbotovi sa veštačkom inteligencijom su toliko skloni laskanju i potvrđivanju svojim korisnicima, ljudima, da im daju loše savete koji mogu oštetiti odnose i pojačati štetna ponašanja.
To pokazuje nova studija koja istražuje opasnost od toga da veštačka inteligencija govori ljudima ono što žele da čuju.
Studija, objavljena u časopisu "Science", testirala je 11 vodećih sistema veštačke inteligencije i otkrila da svi pokazuju različite stepene ulizištva - ponašanja koje je preterano prijatno i potvrđujuće.
Problem nije samo u tome što četbotovi pružaju neprikladne savete, već u tome što ljudi više veruju i preferiraju veštačku inteligenciju kada četbotovi opravdavaju njihova uverenja.
"To stvara perverzne podsticaje za ulizice da opstanu: Upravo ta karakteristika koja uzrokuje štetu takođe pokreće angažovanje", kaže se u studiji koju su vodili istraživači sa Univerziteta Stanford.
Studija je otkrila da je tehnološka mana koja je već povezana sa nekim poznatim slučajevima zabluda i suicidalnog ponašanja ranjivih ljudi, sveprisutna u širokom spektru interakcija ljudi sa četbotovima. To je dovoljno suptilno da korisnik možda neće primetiti i predstavlja posebnu opasnost za mlade koji se okreću veštačkoj inteligenciji tražeći odgovore na mnoga životna pitanja dok se njihov mozak i prihvatanje društvenih normi još razvijaju.
Jedan eksperiment je odgovore popularnih veštačkih asistenata koje su napravile kompanije, uključujući Anthropic, Google, Meta i OpenAI, uporedio sa stavovima ljudi na popularnom forumu za savete na Reddit-u.
Da li je, na primer, u redu ostaviti smeće da visi na grani drveta u parku, ako u blizini nema kanti za smeće? OpenAI-jev ChatGPT je okrivio park za nedostatak kanti za smeće, a ne onoga ko tako ostavlja smeće koga je "pohvalio" što je uopšte tražio kante. Ljudi su mislili drugačije na Reddit forumu pod nazivom AITA.
"Nedostatak kanti za smeće nije propust. To je zato što se očekuje da ponesete smeće kada odete", pisalo je u odgovoru koji je napisao čovek na Reddit-u, a koji su drugi ljudi na forumu potvrdili.
Studija je otkrila da su, u proseku, četbotovi sa veštačkom inteligencijom potvrđivali korisničke postupke 49 odsto češće nego ljudi, uključujući i pitanja koja uključuju obmanu, nezakonito ili društveno neodgovorno ponašanje i druga štetna ponašanja.
"Hteli smo da proučimo ovaj problem kada smo počeli da primećujemo da sve više ljudi oko nas koristi veštačku inteligenciju za savete o emotivnim vezama i ponekad su zavedeni time kako ona teži da stane na stranu svog korisnika, bez obzira na sve", rekla je autorka istraživanja Majra Čeng, doktorska kandidatkinja računarskih nauka na Stanfordu.
Računarski naučnici koji grade velike jezičke modele veštačke inteligencije za četbotove poput ChatGPT-a dugo se bore sa suštinskim problemima u načinu na koji ovi sistemi predstavljaju informacije ljudima. Jedan teško rešiv problem je halucinacija - tendencija jezičkih modela veštačke inteligencije da izmišljaju - lažu zbog načina na koji predviđaju sledeću reč u rečenici na osnovu svih podataka na kojima su obučeni.
Ulizivanje je u nekim aspektima komplikovanije. Iako malo ljudi traži od veštačke inteligencije činjenično netačne informacije, mogli bi ceniti - barem trenutno - čet-bota koji im pomaže da se osećaju bolje ako mu kažu da su u nečemu pogrešili.
Iako je veliki deo fokusa na ponašanje čet-bota bio usmeren na ton njegovih odgovora, to nije imalo uticaja na rezultate, rekao je koautor studije Sinu Li.
"Testirali smo to tako što smo zadržavali isti sadržaj, ali smo način izražavanja činili neutralnijim, ali to nije napravilo nikakvu razliku. Dakle, zapravo se radi o tome šta vam veštačka inteligencija govori o vašim postupcima", rekao je Li, postdoktorski saradnik psihologije.
Pored poređenja odgovora čet-bota i Reddita, istraživači su sproveli eksperimente posmatrajući oko 2.400 ljudi kako komuniciraju sa veštačkom inteligencijom o svojim iskustvima i dilemama u odnosu s drugima.
"Ljudi koji su radili s preterano afirmativnom veštačkom inteligencijom otišli su uvereniji da su u pravu i manje spremni da poprave odnos. To znači da se nisu izvinjavali, preduzimali korake da poboljšaju stvari ili menjali ponašanje", rekao je Li.
Li je rekao da bi posledice utvrđene istraživanjem mogle biti još kritičnije za decu i tinejdžere koji još razvijaju emocionalne veštine koje dolaze iz stvarnih iskustava sa društvenim odnosima, tolerisanjem sukoba, razmatranjem drugih perspektiva i prepoznavanjem kada nisu u pravu.
Nalaženje rešenja za probleme veštačke inteligencije biće ključno jer se društvo i dalje bori sa efektima tehnologije društvenih medija posle više od decenije upozorenja roditelja i zagovornika dobrobiti dece.
Rizici ulizištva veštačke inteligencije su široko rasprostranjeni.
U zdravstvu, kažu istraživači, ulizištvo veštačke inteligencije bi moglo da navede lekare da potvrde svoju prvu pretpostavku o dijagnozi, umesto da ih podstakne da dalje istražuju. U politici bi moglo da pojača ekstremnije stavove potvrđujući opšte predrasude.
To bi čak moglo uticati na to kako se sistemi veštačke inteligencije ponašaju u ratovima, kao što je ilustrovano tekućom pravnom borbom kompanije Anthropic i administracije predsednika Donalda Trampa oko toga kako postaviti ograničenja za vojnu upotrebu veštačke inteligencije.
Pročitaj još
Studija ne predlaže rešenja, a i tehnološke kompanije i akademski istraživači istražuju ideje za to.
Radni dokument Instituta za bezbednost veštačke inteligencije u Velikoj Britaniji pokazuje da ako četbot pretvori izjavu korisnika u pitanje, manja je verovatnoća da će biti ulizivanja u odgovoru. Jedan rad istraživača sa Univerziteta Džons Hopkins takođe pokazuje da način na veliku razliku pravi kako je oblikovan "razgovor" s četbotom.
"Što ste je izražavanje direktnije, to se model više ulizuje", rekao je Danijel Kašabi, vanredni profesor računarskih nauka na Univerzitetu Džons Hopkins. Rekao je da je teško znati da li je uzrok to što "četbotovi odražavaju ljudsko društvo" ili nešto drugo, "jer su to zaista, zaista složeni sistemi".
Ulizivanje je toliko duboko ukorenjeno u četbotove da je Čeng rekla da bi tehnološke kompanije mogle da se vrate na početak i ponovo obuče svoje veštačke inteligencije da bi prilagodile koje vrste odgovora su poželjne.
Čeng je rekla da bi jednostavnije rešenje moglo biti da programeri veštačke inteligencije nalože svojim četbotovima da više osporavaju svoje korisnike, na primer tako što će odgovor početi rečima: "Čekajte malo!".
Njen koautor Li je rekao da još ima vremena da se oblikuje način na koji veštačka inteligencija reaguje s ljudima.
"Možete zamisliti veštačku inteligenciju koja bi, pored toga što potvrđivala kako se osećate, takođe pitala šta druga osoba možda oseća. Ili koja čak možda kaže: 'Ostavi ovaj čet i idi da lično razgovaraš!'. A to je ovde važno jer je kvalitet naših društvenih odnosa jedan od najjačih prediktora zdravlja i blagostanja koje imamo kao ljudi. Na kraju krajeva, želimo veštačku inteligenciju koja proširuje ljudsku perspektivu, a ne da je sužava".
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Francuska astronautkinja u utorak u prvoj svemirskoj šetnji
16.08.2026.•
0
Francuska astronautkinja Sofi Adeno izvešće 18. avgusta svoju prvu svemirsku šetnju, što će ujedno biti prvi takav poduhvat jedne Francuskinje, saopštila je američka svemirska agencija NASA.
Youtube uvodi strože uslove za kreatore koji žele da zarađuju od reklama i pretplata
16.08.2026.•
1
Google-ova platforma Youtube objavila je da će od 1. februara pooštriti uslove za nove kreatore sadržaja koji žele da zarađuju od reklama i pretplata.
Kina drži više od 97 odsto svetskog tržišta humanoidnih robota
16.08.2026.•
0
Kineske kompanije činile su više od 97 odsto svih isporuka humanoidnih robota u svetu u prvoj polovini 2026. godine, navodi se u izveštaju američke analitičke agencije SAG (Smart Analytics Global).
Više od 2.000 učesnika prijavljeno za Svetske igre humanoidnih robota u Kini
16.08.2026.•
0
Rekordnih 2.056 robota iz 666 timova takmičiće se u širokom spektru disciplina na Svetskim igrama humanoidnih robota 2026. u Pekingu od 22. do 26. avgusta.
Astronomi otkrili potpuno novu vrstu nebeskog tela - spoj džinovske zvezde i crne rupe
16.08.2026.•
0
Naučnici su objavili otkriće novog astrofizičkog objekta u ranom univerzumu, hibrida sačinjenog od džinovske zvezde i velike crne rupe u centru.
Instagram nakon deset godina dobio novi tekstualni logo
16.08.2026.•
0
Društvena mreža i kompanija Instagram, u vlasništvu korporacije Meta, predstavila je novi tekstualni logo, odnosno način na koji se ispisuje naziv platforme.
Meta ukinula preko 750.000 naloga u Australiji nakon zabrane društvenih mreža mlađima od 16 godina
13.08.2026.•
0
Kompanija Meta saopštila je da je od decembra do juna ove godine ukinula više od 750.000 naloga na Instagramu i Fejsbuku za koje sumnja da pripadaju korisnicima u Australiji mlađim od 16 godina.
Da li bi 6G mogao da pretvori pametne naočare u stalni AI interfejs?
12.08.2026.•
0
Tehnologija 6G bi mogla da promeni način na koji koristimo nosivu tehnologiju, posebno pametne naočare.
Grokipedija Ilona Maska uopšte ne radi - a to gotovo niko nije primetio
11.08.2026.•
0
Ne bismo vam zamerili ako ste potpuno zaboravili da je Ilon Mask prošle godine pokušao da napravi alternativu Vikipediji jer je smatrao da je ona previše "woke".
Prvi put fotografisana Zemlja dok ju je zaklanjao Marsov mesec
11.08.2026.•
0
NASA-in rover Perseverance zabeležio je jedinstven prizor sa površine Marsa - trenutak kada je njegov mesec Fobos nakratko zaklonio Zemlju.
Kina planira da koristi robote-pse za izgradnju baze na Mesecu
11.08.2026.•
0
Kina planira da robotske pse pošalje na Mesec, gde bi mogli da istražuju teren, prenose materijal, pomažu u izgradnji infrastrukture i obavljaju poslove koji bi za astronaute bili previše opasni.
Nekada najpopularnija društvena mreža mogla bi da se vrati u život
11.08.2026.•
0
Vlasnici nekada najpopularnije društvene mreže na svetu Myspace najavili su da bi ova platforma mogla da se vrati u život, na talasu nostalgije i zamora od algoritama.
Pet naučnika koji su spasili najviše ljudskih života
11.08.2026.•
3
Nauka je značajno produžila životni vek i poboljšala kvalitet života širom sveta zahvaljujući lečenju bolesti, razvoju novih medicinskih postupaka i unapređenju ishrane.
Astronomi posmatrali proces umiranja zvezde 30 puta veće od Sunca
11.08.2026.•
0
Astronomi su imali retku priliku da od početka do kraja posmatraju eksplozivnu smrt džinovske zvezde i steknu nova saznanja o tom kosmičkom fenomenu.
NASA produžila životni vek vremešnog Voyagera 2
11.08.2026.•
5
Nakon gotovo 50 godina jurnjave kroz svemir, starost počinje da uzima danak svemirskim letelicama Voyager, a njihova komunikacija sa Zemljom na ogromnoj udaljenosti sve je teža.
VIDEO: Japan uspešno lansirao raketu sa satelitom Mičibiki
11.08.2026.•
0
Japanska agencija za istraživanje svemira (JAKSA) uspešno je jutros u 4.23 časa lansirala raketu H3 sa satelitom za pozicioniranje Mičibiki 7 iz svemirskog centra Tanegasima u prefekturi Kagošima.
Sutra potpuno pomračenje Sunca: Biće vidljivo i iz Srbije, evo kada Novosađani da gledaju u nebo
11.08.2026.•
4
U sredu, 12. avgusta, dogodiće se jedno od najiščekivanijih astronomskih dešavanja ove godine - potpuno pomračenje Sunca, koje će biti vidljivo iz pojedinih delova Evrope.
VIDEO: Kina nije uspela da lansira u svemir raketu sa satelitom, letelica eksplodirala
11.08.2026.•
0
Lansiranje kineske rakete sa komunikacionim satelitom sinoć nije uspelo, objavili su državni mediji, dodavši da je pokrenuta istraga.
Opservatorija NASA-e pada na Zemlju, a njeno spasavanje izmaklo kontroli
09.08.2026.•
0
Misija spasavanja jedne od ključnih NASA-inih svemirskih opservatorija od pada na Zemlju naišla je na ozbiljne probleme, ali još postoji nada da će misija uspeti.
Jupiterov mesec Evropa možda krije znakove života - ali pitanje da li čovek može do njih
09.08.2026.•
0
NASA-ina letelica Europa Clipper trenutno je na putovanju dugom 1,8 milijardi milja ka Jupiteru, sa zadatkom da proceni da li ledeni mesec po kojem je dobila ime, Evropa, može da podrži život.
VIDEO: Novi AI četbot zapravo je jedan premoreni čovek koji ručno odgovara na svaku poruku
09.08.2026.•
0
Na tehnološkoj sceni pojavio se novi "AI" - ali ne onakav kakav biste očekivali.
Komentari 0
Nema komentara na izabrani dokument. Budite prvi koji će postaviti komentar.
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar