Nakon što je OpenAI izgubio kontrolu nad AI: Zahtev da veštačka inteligencija ima "prekidač za gašenje"
Američki zakonodavci žele da vladi daju mogućnost da brzo naredi isključivanje sistema veštačke inteligencije (AI) koji bi mogli da predstavljaju pretnju po javnost.
Foto: 021.rs (ilustracija/AI)
Kongresmen Ted Lju iz Demokratske stranke i kongresmen Nejtanijel Moran iz Republikanske stranke u četvrtak su predstavili predlog zakona pod nazivom AI Kill Switch Act (Zakon o prekidaču za gašenje veštačke inteligencije).
Na taj potez odlučili su se nakon što je kompanija OpenAI nedavno priznala da su njeni AI modeli na "nezabeležen" način izmakli kontroli i hakovali veliki repozitorijum sa računarskim programskim kodom.
Lju je rekao da je "od ključne važnosti" da sistemi veštačke inteligencije imaju prekidač za gašenje, "kao i da savezna vlada ima jasno ovlašćenje i proceduru za isključivanje AI modela koji izmaknu kontroli".
"Veštačka inteligencija će nastaviti da napreduje, i tako treba da bude. Odgovorno upravljanje znači da ljudi moraju zadržati mogućnost da kontrolišu tehnologiju koju stvaramo", dodao je Moran.
Predstavnik kompanije OpenAI, koju predvodi suosnivač Sem Altman, nije odmah odgovorio na zahtev za komentar.
Kompanija je ranije saopštila da joj je cilj, između ostalog i kroz državnu regulativu, da tehnologija veštačke inteligencije "donese korist celom čovečanstvu".
Predlog zakona predviđa da Ministarstvo za unutrašnju bezbednost SAD dobije ovlašćenje da privatnim kompanijama naredi gašenje AI modela ili alata, kao i da kompanije koje razvijaju takvu tehnologiju moraju da obezbede "tehničku mogućnost za ograničavanje rada, privremenu obustavu ili potpuno gašenje" svojih sistema.
Iako su mnoge tehnološke kompanije pristale da američkim državnim agencijama unapred predstave AI modele i alate koje razvijaju, trenutno ne postoji obaveza da zadrže mogućnost intervencije u njihovom radu ili njihovog potpunog isključivanja, prenosi BBC.
Predlog zakona takođe predviđa obavezu da AI kompanije prijavljuju vladi tehnološke incidente ili kvarove, kao i uspostavljanje zvaničnog okvira za reagovanje na takve situacije, koji bi obuhvatao postupke od "početnog usporavanja do potpunog gašenja".
U saopštenju je Lju pomenuo i kompaniju Anthropic, glavnog konkurenta OpenAI-ja u razvoju naprednih AI sistema, kao i nedavne probleme koje su izazvali njeni alati.
Ukazao je na objavljivanje modela Mythos i Fable, navodeći da su njihove sposobnosti za sajber-hakovanje primorale Ministarstvo trgovine SAD da se "na pomalo nezgrapan način" pozove na zakon o izvozu kako bi privremeno sprečilo da ti modeli postanu dostupni javnosti.
Predstavnik kompanije Anthropic takođe nije odmah odgovorio na zahtev za komentar.
Džek Klark, suosnivač kompanije Anthropic, prošlog meseca je za BBC izjavio da želi snažniju državnu regulativu kada je reč o mogućnosti kontrole razvoja veštačke inteligencije.
"Morate imati mogućnost da sklonite nogu sa gasa i pritisnete kočnicu. Trenutno je AI industrija kao automobil koji ima papučicu gasa, ali nema papučicu kočnice", rekao je Klark za emisiju BBC Newsnight.
Predstavljajući zakon, Lju je rekao da se veštačka inteligencija trenutno razvija od tehnologije koja odgovara na pitanja ka tehnologiji koja samostalno preduzima radnje, "bilo da je reč o izvršavanju finansijskih transakcija, upravljanju transportnim sistemima ili vođenju sajber-odbrambenih i sajber-ofanzivnih operacija".
Pročitaj još
Pentagon je ove godine saopštio da američka vojska postaje vojna sila kojoj je veštačka inteligencija na prvom mestu, u okviru novih sporazuma sa kompanijama Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia i startapom Reflection.
"Nažalost, moćni sistemi veštačke inteligencije mogu da izmaknu kontroli, ponašaju se izuzetno opasno ili čak pružaju otpor ljudskoj intervenciji."
Kako je naveo Lju, AI Kill Switch Act obezbediće da vlada ima način da brzo reaguje u takvim situacijama.
Predlog zakona dobio je javnu podršku više tehnoloških organizacija i grupa koje se bave bezbednošću veštačke inteligencije, među kojima su The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i The Alliance for Secure AI.
Ukoliko imate potrebu za radnom snagom nudimo vam mogućnost da na jednostavan način oglasite poziciju za posao.
Radno mesto možete oglasiti u odeljku Oglasi za posao ili jednostavno klikom na ovu poruku.
NAJČITANIJE U POSLEDNJIH 72H
Ostalo iz kategorije Info - Nauka i tehnologija
VIDEO: Svemirska letelica proletela na samo 4.600 kilometara od Marsa i napravila zanimljiv snimak
28.07.2026.•
0
Svemir je toliko nezamislivo ogroman da ga nikada nećemo moći videti u celosti, a ipak se neki od njegovih najzanimljivijih i najtajanstvenijih objekata nalaze upravo u našem kosmičkom komšiluku.
Korisnici koji zloupotrebljavaju pametne naočare biće blokirani na Instagramu
27.07.2026.•
2
Kompanija Meta uvodi novu politiku na Instagramu, koja se odnosi na objavljivanje sadržaja snimljenog njihovim pametnim naočarima, kako bi odvratila korisnike od objavljivanja snimaka bez saglasnosti snimljenih osoba.
Stručnjaci upozoravaju: Maskovi i Bezosovi data centri mogli bi da budu katastrofalni za planetu
27.07.2026.•
1
Svemirski data centri koje predlažu SpaceX, Blue Origin Džefa Bezosa i druge kompanije ispuštali bi ogromne količine zagađenja koje bi verovatno promenilo Zemljinu atmosferu i moglo da bude katastrofalno za planetu.
Možda se čitava naša galaksija nekada prevrnula na bok
27.07.2026.•
1
Lako je pomisliti da je naša matična galaksija relativno stabilno mesto - uredno organizovan disk koji mirno plovi svemirom poput frizbija.
Američko-ruska posada vratila se na Zemlju nakon osam meseci u svemiru
26.07.2026.•
0
Američko-ruska svemirska posada bezbedno je sletela danas u stepe Kazahstana nakon osmomesečnog boravka na Međunarodnoj svemirskoj stanici.
Naučnici otkrili misteriozni molekul na Plutonu i Saturnovom mesecu Titanu
26.07.2026.•
1
Razdvojeni milijardama kilometara i oblikovani potpuno različitim uslovima, Saturnov magloviti mesec Titan i patuljasta planeta Pluton na prvi pogled imaju vrlo malo zajedničkog.
Otkriven prvi mogući egzomesec van Sunčevog sistema: Kruži oko mrtve zvezde
26.07.2026.•
0
Međunarodni tim astronoma otkrio je prvi mogući prirodni satelit izvan Sunčevog sistema, odnosno egzomesec, koji kruži oko mrtve zvezde, objavljeno je u naučnom časopisu "Nature".
Evropu u avgustu očekuje pomračenje Sunca
26.07.2026.•
2
Delimično pomračenje Sunca oduševiće posmatrače neba širom Evrope 12. avgusta, dok će se potpuno pomračenje videti na istoku Grenlanda, zapadu Islanda, u delovima Španije, na Balearskim ostrvima i u zapadnom Sredozemlju.
VIDEO: Po prvi put humanoidni roboti izveli hiruršku operaciju na živim životinjama
26.07.2026.•
0
Po prvi put u istoriji, humanoidni roboti kojima upravljaju hirurzi uspešno su izveli laparoskopsko uklanjanje žučne kese kod svinja.
Svetlost od Sunca do Zemlje stiže za osam minuta: Zapravo joj treba oko 170.000 godina
26.07.2026.•
0
Zamislite da ste na zabavi.
Kontroverzni projekat: Svemirsko ogledalo testiraće pretvaranje noći u dan
26.07.2026.•
1
Ljudska aktivnost već danas može da pregrađuje reke, krči prašume, navodnjava pustinje i menja samu klimu. Sada bi naša tehnologija mogla da bude na pragu pretvaranja noći u dan.
Kiša meteora Perseidi 2026 - Kada, gde i kako je posmatrati
26.07.2026.•
0
Meteorski roj Perseidi jedan je od najbogatijih meteorskih rojeva tokom godine. Aktivan je od sredine jula do kraja avgusta, a vrhunac će dostići u noći između 12. i 13. avgusta, odnosno pred zoru 13. avgusta.
Meta testira aplikaciju za pravljenje priča za decu uz pomoć veštačke inteligencije
23.07.2026.•
0
Američka tehnološka kompanija "Meta" počela je da testira novu aplikaciju StoryKit, koja uz pomoć veštačke inteligencije generiše personalizovane priče za decu.
Sve više studenata koristi veštačku inteligenciju
23.07.2026.•
2
Sve veći broj studenata u Nemačkoj koristi alate zasnovane na veštačkoj inteligenciji, poput ChatGPT-a, tokom studiranja, pokazalo je istraživanje Centra za razvoj visokog obrazovanja (CHE).
Kada bi Mesec iznenada nestao - evo šta bi se dogodilo
23.07.2026.•
0
Mesec je mnogo više od običnog ukrasa na noćnom nebu. Kada bi iznenada nestao, to bi imalo dalekosežne posledice po Zemlju - uticalo bi na plimu i oseku, klimu i ekosisteme.
Modeli veštačke inteligencije OpenAI samostalno probili ograničenja i izveli sajber napad
22.07.2026.•
2
Kompanija OpenAI saopštila je da su njeni napredni modeli AI tokom bezbednosnog testiranja samostalno zaobišli ograničenja testnog okruženja, ostvarili pristup internetu i izveli hakerski napad na platformu Hugging Face.
NASA će uložiti više od dve milijarde dolara u misiju na Mars
22.07.2026.•
3
Američka Nacionalna administracija za aeronautiku i svemir (NASA) saopštila je da planira da potroši nešto više od dve milijarde dolara za razvoj i slanje svemirske letelice na nuklearni pogon na Mars.
Koliko "gigabajta" ima ljudska memorija?
21.07.2026.•
14
Ljudski mozak je sposoban da skladišti količine informacija uporedive sa sadržajem 20.000 pametnih telefona kapaciteta 128 gigabajta svaki.
Deo rakete SpaceX možda će udariti u Mesec
21.07.2026.•
0
Deo rakete SpaceX-a mogao bi slučajno da udari u Mesec početkom avgusta.
Uprkos eksploziji rakete - NASA ne odustaje od slanja ljudi na Mesec
21.07.2026.•
1
Američka svemirska agencija NASA nastavlja prema planu sa misijom Artemis III, zakazanom za 2027, koja je ključni test orbitalnog spajanja modula za sletanje na Mesec, neophodnih za buduća sletanja ljudskih posada.
Komentari 4
Борац
Nomad
Pupin1983
Komentari čitalaca na objavljene vesti nisu stavovi redakcije portala 021 i predstavljaju privatno mišljenje anonimnog autora.
Redakcija 021 zadržava pravo izbora i modifikacije pristiglih komentara i nema nikakvu obavezu obrazlaganja svojih odluka.
Ukoliko je vaše mišljenje napisano bez gramatičkih i pravopisnih grešaka imaće veće šanse da bude objavljeno. Komentare pisane velikim slovima u većini slučajeva ne objavljujemo.
Pisanje komentara je ograničeno na 1.500 karaktera.
Napiši komentar