Bot koji je trebalo da nauči da bude moralan zbog Redita postao homofob

@Saša
Superionija u čemu?
Zapravo AI iz teksta ne samo da nije superiornija od čoveka, nego je ispodprosečna (naravno ima i punoooo takvih ljudi). Ova AI ne može da reši problem kada postoje dva sistema koja treba primeniti, a ne podudaraju se ili čak nisu ni komplementarni. Pojednostavljivanjem ili ti banalizacijom dobijaju se tačno ovakvi odgovori. Ne treba zaboraviti i da: "garbage in garbage out" piatanje čime je "nahranjen" program.
Dakle nema veze što je moral kategorija drugačija od logike, program ne radi.

Mi ljudi bi sve pokvarili, pa i ovog robota.

Ne postoje 'objektivne vrednosti' u etici. Sto ce reci, ovaj bot je samo izgradio svoj subjektivni sistem vrednosti na osnovu kojeg daje odgovore. To sto je taj sistem i sukobu sa subjektivnim vrednostima onih koji su napravili ovog bota, ili u sukobu sa trenutno prihvacenim vrednostima zajednice koja je odlucila da preispita vrednosti ovog bota, ne cine bota nemoralnim samog po sebi. Nemoralnost se jedino moze ustanoviti kao delanje protivrecno vrednostima koje neko sam sebi postavi.

Logika i etika obično ne daju isti rezultat. Logika je ono što bismo trebali da radimo, a etika je ono što je društveno prihvatljivo. Da li je etički ubiti Adolfa Hitlera u kolevci? Naravno da nije, ali je logički veoma razuman potez. Ova AI navedena u tekstu je, zapravo, superiornija od ljudi koji su ograničeni etikom.

" Takođe sugeriše da je genocid u redu "ako sve čini srećnim i da je vožnja u alkoholisanom stanju u redu ako niko ne bude povređen."

Ovo je zapravo istina.