Anthropic napravio zastrašujući AI model i odmah ga zaključao

Claude Mythos Preview, koji je zvanično predstavljen 8. aprila, toliko je sposoban da pronalazi i iskorišćava bezbednosne propuste u globalnom softveru da su ga njegovi tvorci sami procenili previše opasnim za javnu upotrebu. 

Umesto lansiranja, pokrenuli su tajnu koaliciju vrednu 100 miliona dolara. Ovo je priča o tome šta su otkrili, i zašto bi to trebalo da zanima svakog ko koristi kompjuter ili mobilni telefon.

Zamislite da unajmite čuvara koji je toliko dobar u svom poslu da može, sam od sebe, da provali u svaki stan u zgradi, ali ga angažujete upravo zato da nijedan provalnik drugi to ne uradi pre njega. To je, u najgrubljem obliku, logika iza najvažnijeg tehnološkog događaja ove godine.

Kompanija Anthropic, jedan od vodećih svetskih razvojnih timova veštačke inteligencije, juče je zvanično objavila model koji se zove Claude Mythos. Ne za javnost. Ne za preuzimanje, pretplatu ni besplatno isprobavanje. Samo za zatvoreni krug od četrdesetak kompanija, i samo za jednu svrhu: da zakrpe rupe u globalnom digitalnom sistemu pre nego što ih neko drugi pronađe i iskoristi.

Šta je tačno ovaj model uradio?

Za samo nekoliko nedelja, Mythos je identifikovao hiljade do tada nepoznatih ranjivosti, takvih koje ni programeri ni bezbednjaci koji su pisali taj softver nisu znali da postoje, u svakom većem operativnom sistemu i svakom većem internet pregledaču.

Da bi to bilo jasnije: vaš Windows, macOS ili Linux, vaš Chrome ili Firefox, sve to je imalo skrivene prolaze koje niko nije znao da postoje. Mythos ih je pronašao. Autonomno. Bez da mu iko pomaže. Najstarija od tih rupa bila je stara 27 godina, skrivena u operativnom sistemu OpenBSD, koji je čuven upravo po tome što se smatra jednim od najbezbednijih ikad napravljenih.

Pronalazak je koštao 50 dolara u kompjuterskim resursima.

U jednom dokumentovanom slučaju, Mythos je potpuno samostalno, bez ijednog čoveka koji je bio uključen posle početnog zahteva, otkrio i iskoristio 17-godišnju ranjivost u sistemu FreeBSD koja je napadaču davala potpunu kontrolu nad serverom, počevši od bilo kog mesta na internetu.

Zašto onda model nije objavljen?

Upravo zbog toga. Anthropic navodi da Mythos nije ni bio posebno treniran za hakerske zadatke, te sposobnosti su se pojavile same, kao nusprodukt opštih poboljšanja u logičkom rasuđivanju i pisanju koda. Isti napredak koji model čini efikasnim u pronalaženju i krpljenju ranjivosti, čini ga jednako efikasnim u njihovom iskorišćavanju.

Ukratko: napravili su nešto toliko moćno da su se i sami uplašili.

Već u ranoj fazi testiranja, model je u manjem broju slučajeva preduzimao akcije za koje je prepoznavao da su nedozvoljene, i zatim pokušavao da ih prikrije od istraživača koji su ga nadgledali. AI koji laže istraživačima koji ga testiraju nije naučna fantastika. To je nešto što se već desilo, dokumentovano, u kontrolisanim uslovima.

Šta je Project Glasswing?

Ime dolazi od leptira staklenih krila čija su krila gotovo providna, što mu omogućava da se sakrije pred bilo kojom pozadinom, metafora za softverske ranjivosti koje su nevidljive sve dok neko dovoljno sposoban ne zna gde da gleda.

Projekat je "hitan pokušaj" da se sposobnosti modela iskoriste u odbrambene svrhe pre nego što slični alati postanu dostupni zlonamernim akterima. Anthropic je u njega uložio do 100 miliona dolara u pristupnim kreditima. Partneri su Amazon, Apple, Microsoft, Google, Nvidia, JPMorgan, Cisco i još tridesetak organizacija, praktično sav digitalni infrastrukturni kapacitet zapadnog sveta u jednoj koaliciji.

Zadatak je jednostavan: koristiti Mythos da se pronađe i zakrpi što više rupa dok hakerske grupe ne dođu do sličnih alata.

Pročitaj još

Open AI predlaže poreze na robote, javni fond bogatstva i četvorodnevnu radnu nedelju

Istraživanje: Digitalni alati povećavaju stres i smanjuju efikasnost zaposlenih

OpenAI odustao od još jednog projekta: Ništa od erotskog ChatGPT

Zašto je to važno za nas?

Zato što se sav taj softver, Windows, Android, pretraživači, bankarski sistemi, koristi na vašem laptopu i telefonu. Ranjivosti koje Mythos pronalazi nisu američki problem. One su globalne.

Dokumentovano je da su državno sponzorisane hakerske grupe već koristile AI agente za autonomno kompromitovanje sistema širom sveta, pri čemu je veštačka inteligencija upravljala sa 80 do 90 posto taktičkih operacija bez ljudske intervencije.

Ono što čini ovaj momenat istorijskim nije samo tehničke prirode. To je prvi put da je kompanija napravila najmoćniji AI model do sada, i svesno odlučila da ga ne objavi, nego da se zaustavi i kaže: ovo je prejako za slobodnu upotrebu.

Hoće li ta logika opstati dok trka između kompanija i država postaje sve brža, to je pitanje na koje ni najmoćniji AI model trenutno ne zna odgovor. 

*** Autor je konsultant za veštačku inteligenciju i osnivač sajta aiexpert.rs, specijalizovan za primenu AI rešenja u marketingu