Nakon što je OpenAI izgubio kontrolu nad AI: Zahtev da veštačka inteligencija ima "prekidač za gašenje"
Američki zakonodavci žele da vladi daju mogućnost da brzo naredi isključivanje sistema veštačke inteligencije (AI) koji bi mogli da predstavljaju pretnju po javnost.
Foto: 021.rs (ilustracija/AI)
Kongresmen Ted Lju iz Demokratske stranke i kongresmen Nejtanijel Moran iz Republikanske stranke u četvrtak su predstavili predlog zakona pod nazivom AI Kill Switch Act (Zakon o prekidaču za gašenje veštačke inteligencije).
Na taj potez odlučili su se nakon što je kompanija OpenAI nedavno priznala da su njeni AI modeli na "nezabeležen" način izmakli kontroli i hakovali veliki repozitorijum sa računarskim programskim kodom.
Lju je rekao da je "od ključne važnosti" da sistemi veštačke inteligencije imaju prekidač za gašenje, "kao i da savezna vlada ima jasno ovlašćenje i proceduru za isključivanje AI modela koji izmaknu kontroli".
"Veštačka inteligencija će nastaviti da napreduje, i tako treba da bude. Odgovorno upravljanje znači da ljudi moraju zadržati mogućnost da kontrolišu tehnologiju koju stvaramo", dodao je Moran.
Predstavnik kompanije OpenAI, koju predvodi suosnivač Sem Altman, nije odmah odgovorio na zahtev za komentar.
Kompanija je ranije saopštila da joj je cilj, između ostalog i kroz državnu regulativu, da tehnologija veštačke inteligencije "donese korist celom čovečanstvu".
Predlog zakona predviđa da Ministarstvo za unutrašnju bezbednost SAD dobije ovlašćenje da privatnim kompanijama naredi gašenje AI modela ili alata, kao i da kompanije koje razvijaju takvu tehnologiju moraju da obezbede "tehničku mogućnost za ograničavanje rada, privremenu obustavu ili potpuno gašenje" svojih sistema.
Iako su mnoge tehnološke kompanije pristale da američkim državnim agencijama unapred predstave AI modele i alate koje razvijaju, trenutno ne postoji obaveza da zadrže mogućnost intervencije u njihovom radu ili njihovog potpunog isključivanja, prenosi BBC.
Predlog zakona takođe predviđa obavezu da AI kompanije prijavljuju vladi tehnološke incidente ili kvarove, kao i uspostavljanje zvaničnog okvira za reagovanje na takve situacije, koji bi obuhvatao postupke od "početnog usporavanja do potpunog gašenja".
U saopštenju je Lju pomenuo i kompaniju Anthropic, glavnog konkurenta OpenAI-ja u razvoju naprednih AI sistema, kao i nedavne probleme koje su izazvali njeni alati.
Ukazao je na objavljivanje modela Mythos i Fable, navodeći da su njihove sposobnosti za sajber-hakovanje primorale Ministarstvo trgovine SAD da se "na pomalo nezgrapan način" pozove na zakon o izvozu kako bi privremeno sprečilo da ti modeli postanu dostupni javnosti.
Predstavnik kompanije Anthropic takođe nije odmah odgovorio na zahtev za komentar.
Džek Klark, suosnivač kompanije Anthropic, prošlog meseca je za BBC izjavio da želi snažniju državnu regulativu kada je reč o mogućnosti kontrole razvoja veštačke inteligencije.
"Morate imati mogućnost da sklonite nogu sa gasa i pritisnete kočnicu. Trenutno je AI industrija kao automobil koji ima papučicu gasa, ali nema papučicu kočnice", rekao je Klark za emisiju BBC Newsnight.
Predstavljajući zakon, Lju je rekao da se veštačka inteligencija trenutno razvija od tehnologije koja odgovara na pitanja ka tehnologiji koja samostalno preduzima radnje, "bilo da je reč o izvršavanju finansijskih transakcija, upravljanju transportnim sistemima ili vođenju sajber-odbrambenih i sajber-ofanzivnih operacija".
Pročitaj još
Pentagon je ove godine saopštio da američka vojska postaje vojna sila kojoj je veštačka inteligencija na prvom mestu, u okviru novih sporazuma sa kompanijama Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i startapom Reflection.
"Nažalost, moćni sistemi veštačke inteligencije mogu da izmaknu kontroli, ponašaju se izuzetno opasno ili čak pružaju otpor ljudskoj intervenciji."
Kako je naveo Lju, AI Kill Switch Act obezbediće da vlada ima način da brzo reaguje u takvim situacijama.
Predlog zakona dobio je javnu podršku više tehnoloških organizacija i grupa koje se bave bezbednošću veštačke inteligencije, među kojima su The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i The Alliance for Secure AI.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
Kontroverzni projekat: Svemirsko ogledalo testiraće pretvaranje noći u dan
26.07.2026.•
1
Ljudska aktivnost već danas može da pregrađuje reke, krči prašume, navodnjava pustinje i menja samu klimu. Sada bi naša tehnologija mogla da bude na pragu pretvaranja noći u dan.
Kiša meteora Perseidi 2026 - Kada, gde i kako je posmatrati
26.07.2026.•
0
Meteorski roj Perseidi jedan je od najbogatijih meteorskih rojeva tokom godine. Aktivan je od sredine jula do kraja avgusta, a vrhunac će dostići u noći između 12. i 13. avgusta, odnosno pred zoru 13. avgusta.
Meta testira aplikaciju za pravljenje priča za decu uz pomoć veštačke inteligencije
23.07.2026.•
0
Američka tehnološka kompanija "Meta" počela je da testira novu aplikaciju StoryKit, koja uz pomoć veštačke inteligencije generiše personalizovane priče za decu.
Sve više studenata koristi veštačku inteligenciju
23.07.2026.•
2
Sve veći broj studenata u Nemačkoj koristi alate zasnovane na veštačkoj inteligenciji, poput ChatGPT-a, tokom studiranja, pokazalo je istraživanje Centra za razvoj visokog obrazovanja (CHE).
Kada bi Mesec iznenada nestao - evo šta bi se dogodilo
23.07.2026.•
0
Mesec je mnogo više od običnog ukrasa na noćnom nebu. Kada bi iznenada nestao, to bi imalo dalekosežne posledice po Zemlju - uticalo bi na plimu i oseku, klimu i ekosisteme.
Modeli veštačke inteligencije OpenAI samostalno probili ograničenja i izveli sajber napad
22.07.2026.•
2
Kompanija OpenAI saopštila je da su njeni napredni modeli AI tokom bezbednosnog testiranja samostalno zaobišli ograničenja testnog okruženja, ostvarili pristup internetu i izveli hakerski napad na platformu Hugging Face.
NASA će uložiti više od dve milijarde dolara u misiju na Mars
22.07.2026.•
3
Američka Nacionalna administracija za aeronautiku i svemir (NASA) saopštila je da planira da potroši nešto više od dve milijarde dolara za razvoj i slanje svemirske letelice na nuklearni pogon na Mars.
Koliko "gigabajta" ima ljudska memorija?
21.07.2026.•
13
Ljudski mozak je sposoban da skladišti količine informacija uporedive sa sadržajem 20.000 pametnih telefona kapaciteta 128 gigabajta svaki.
Deo rakete SpaceX možda će udariti u Mesec
21.07.2026.•
0
Deo rakete SpaceX-a mogao bi slučajno da udari u Mesec početkom avgusta.
Uprkos eksploziji rakete - NASA ne odustaje od slanja ljudi na Mesec
21.07.2026.•
1
Američka svemirska agencija NASA nastavlja prema planu sa misijom Artemis III, zakazanom za 2027, koja je ključni test orbitalnog spajanja modula za sletanje na Mesec, neophodnih za buduća sletanja ljudskih posada.
Mogu li ljudi da hiberniraju na putu do Marsa - naučnici proveravaju
20.07.2026.•
2
Dugotrajna putovanja kroz svemir loša su po zdravlje. Veoma loša. Boravak u svemiru izlaže ljude opasno visokim nivoima zračenja.
Napravio "minijaturni svemir" kako bi istražio pitanje pojma vremena
20.07.2026.•
0
Fizičar Đovani Barontini je u okviru najnovije studije u laboratoriji stvorio "minijaturni svemir".
Jedna zemlja planira da do 2040. uposli 10 miliona robota-radnika
20.07.2026.•
2
Nestašica radne snage (kako stručne, tako i nekvalifikovane) predstavlja globalni problem, ali je u Japanu ova situacija dostigla kritičnu tačku.
Sletanja na Mesec mogla bi da unište tragove o poreklu života
20.07.2026.•
1
Sletanja svemirskih letelica na Mesec mogla bi da kontaminiraju drevne tragove koji bi naučnicima mogli pomoći da otkriju kako je nastao život na Zemlji, pokazuje novo istraživanje.
VIDEO Roboti dostupni za iznajmljivanje: Ali šta oni zapravo mogu da rade?
19.07.2026.•
0
U bolnicama širom SAD pacijenti i osoblje navikli su da viđaju prijateljski nastrojenog belog robota sa jednom rukom, visokog oko 120 centimetara, kako obavlja svoje zadatke.
VIDEO: Meteorit koji je pao na kuću u Nju Džersiju sadrži "vanzemaljske" aminokiseline
19.07.2026.•
1
Meteorit težak više od dva kilograma, koji je pre dve godine probio krov jedne kuće u američkoj saveznoj državi Nju Džersi, mogao bi da rasvetli kakva je drevna voda postojala u Sunčevom sistemu.
Istraživanje: Veštačka inteligencija neće potisnuti starije radnike s posla ako primene iskustvo
19.07.2026.•
1
Veštačka inteligencija neće nužno potisnuti starije zaposlene sa tržišta rada, ali će od njih zahtevati prilagođavanje i usvajanje novih digitalnih veština kako bi ostali konkurentni.
Prvi dijagnostički rendgenski snimci napravljeni tokom svemirskog leta
19.07.2026.•
0
Članovi posade jednog komercijalnog svemirskog leta prvi put su napravili dijagnostičke rendgenske snimke u orbiti, koristeći uređaj koji bi mogao da unapredi zdravstvenu zaštitu tokom dugotrajnih svemirskih misija.
Prvi put otkrivena atmosfera oko stenovite planete u nastanjivoj zoni druge zvezde
19.07.2026.•
0
Zvezde na noćnom nebu vekovima su pratile čovečanstvo, a zahvaljujući savremenim astronomskim otkrićima danas se postavlja jedno od najvećih pitanja - da li pod tim istim zvezdama postoji i vanzemaljski život?
Srbija među 29 zemalja koje su osnovale Svetsku organizaciju za AI
19.07.2026.•
1
U Šangaju je 29 zemalja, među kojima su Kina, Rusija i Srbija, potpisalo sporazum o osnivanju Svetske organizacije za saradnju u oblasti veštačke inteligencije.
Komentari 2
Pupin1983
Jelena
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar