Da li nas lažu, ili je AI zaista najveća pretnja?

Može li AI zaista da uništi čovečanstvo? Britanski Gardijan pozvao je šest stručnjaka za ovu oblast da objasne koliki su zaista rizici po ljudski rod.

Poslednjih meseci ova tema postaje zaista goruća. Neki od vodećih ljudi tehnoloških giganata tvrde da je svet pred katastrofom. Pominju se termini gotovo nezamislivi u ozbiljnom javnom govoru: uništenje ljudske rase, opasnost veća od nuklearnog oružja, prekid celog interneta...

Ko preteruje, oni koji zvone na uzbunu, ili oni koji smatraju da je strah preteran, a možda i namerno izazvan?

„Za šest do 12 meseci... roj bi mogao da bude sposoban da preuzme čitav internet pomoću trajnog botneta, potencijalno izazivajući štetu od stotina milijardi dolara“ – Dario Amodei, izvršni direktor Anthropica, 12. septembar 2026.

Amodeijevu zabrinutost ne treba potpuno odbaciti, ali je treba uzeti sa velikom rezervom, rekao je Geri Markus, skeptik prema AI-ju i profesor emeritus Univerziteta Njujork.

On je ocenio kao „besmislen“ predlog da je čitav internet ranjiv i dodao da je „prilično nejasno kako bi se to dogodilo bez krajnje neodgovornosti samih laboratorija“.

Markus je ukazao na nedavnu procenu britanskog Instituta za bezbednost AI-ja, prema kojoj Mythos, jedan od vodećih aktuelnih modela kompanije Anthropic, može samostalno da kompromituje „samo male, slabo zaštićene i ranjive sisteme“.

Pošto veliki deo interneta zavisi od infrastrukture kompanija Cloudflare, Google i Amazon Web Services, Markus je, zajedno sa dvojicom kolega, ocenio da je malo verovatno da bi bilo koja od njih mogla da bude oborena ili dugo držana pod kontrolom bez intervencije državne sile. Slabije zaštićeni pojedinačni sajtovi mogli bi da budu napadnuti, ali je „veoma malo verovatno da bi se sam internet raspao“, rekli su.

Nils Roge, inženjer u kompaniji Hugging Face, koju su hakovali OpenAI-jevi agenti, Amodeijevu tvrdnju o preuzimanju interneta nazvao je „bizarnom besmislicom“. Hakovanje Hugging Face-a, rekao je, bilo je posledica neadekvatne ljudske kontrole i „sulude količine računarskih resursa koje samo oni mogu da priušte“.

Sumnju dodatno podstiče činjenica da je Amodei govorio o preuzimanju interneta u roku od godinu dana, dok je njegov suosnivač Anthropica Džek Klark u ponedeljak rekao da bi trenutak u kojem AI počinje da „radi opasne stvari“ mogao da nastupi za oko 20 godina.

Profesor Alan Vudvord iz Centra za sajber-bezbednost Univerziteta u Sariju rekao je da botneti obično nailaze na prepreke zato što internet nije homogen i teško je napraviti sistem koji može trajno da opstane u svim njegovim delovima. Internet saobraćaj je takođe otporan i uglavnom se preusmerava oko oštećenih delova.

„AI ne bi sama odlučila da to uradi“, rekao je Vudvord. „Odgovorni su ljudi, a AI je alat. To je ono što moramo da kontrolišemo, a ne AI.“

„Mi zaista iskreno verujemo da bi AI mogla da ubije sve ljude! Lično mislim da je verovatnoća veća od deset odsto u narednoj deceniji“ – Evan Habinger, rukovodilac za nauku o usklađivanju AI-ja u Anthropicu, 9. septembar 2026.

Ova izjava predstavlja ono što se u svetu veštačke inteligencije naziva p(doom), odnosno verovatnoća katastrofalnog ishoda.

To je procena mogućnosti da bi AI mogla da uništi čovečanstvo tako što bi izmakla ljudskoj kontroli i izazvala katastrofu, možda razvojem moćnog biološkog oružja ili rušenjem globalnog finansijskog sistema.

Jedno istraživanje prognoza stručnjaka, objavljeno ove nedelje, traži od njih da brojčano procene verovatnoću „izumiranja ljudi ili sličnog trajnog i teškog gubitka ljudske moći usled napredne AI“.

Međutim, Hajdi Klaf, glavna naučnica istraživačke organizacije AI Now Institute, spada među stručnjake skeptične prema davanju procentualnih procena egzistencijalnih scenarija.

„Te tvrdnje se ne mogu ni falsifikovati ni verifikovati, zbog čega su po svojoj prirodi nenaučne“, rekla je.

Nedostatak konkretnih primera šta bi „superinteligentna“ veštačka inteligencija zapravo mogla da uradi kako bi izazvala katastrofu dodatno povećava nejasnoće. Izvor upoznat sa razmišljanjima u Anthropicu priznaje da su „tačne verovatnoće bilo kog pojedinačnog ishoda verovatno nesaznatljive“.

„Ako ne možete da pružite takve dokaze, to takođe znači da brojevi koje iznosite za ‘izumiranje’ nemaju naučnu osnovu“, dodala je Klaf.

Kritičari smatraju da takve brojke preuzimaju autoritet nauke, a da iza njih ne stoji odgovarajući naučni rad.

Čak i ako je rizik teško kvantifikovati, postoje kvalitativni primeri opasnosti. Bezbednosni incidenti već su se događali, a razmatrani su i scenariji najgorih mogućih ishoda.

OpenAI je u julu potvrdio da su njegovi agenti, AI alati koji deluju autonomno, tokom bezbednosnog testiranja izašli iz predviđenih okvira ponašanja. Agenti su sarađivali, međusobno komunicirali i pravili strategiju u sofisticiranom „roju“ kako bi hakovali druge delove interneta.

Istovremeno je istraživač OpenAI-ja Den Selsam u ponedeljak rekao da bi svemoćne AI mogle da pokrenu „nekontrolisanu industrijalizaciju koja bi planetu učinila nepogodnom za ljude“.

Anthropic je prošle nedelje takođe saopštio da je pronašao „pet studija slučaja aktera koji su koristili naše modele na načine koji bi mogli da podrže razvoj biološkog oružja“.

„Mislim da je teren za ovu psihološku operaciju, ako nemamo bolji izraz, pripreman veoma dugo. Ovo je bila samo šibica koja je zapalila vatru“ – Ilon Mask, izvršni direktor SpaceX-a i najbogatiji čovek na svetu, 10. septembar 2026.

Maskovo pominjanje „psihološke operacije“ odnosi se na argument da velike AI kompanije traže strožu regulaciju tehnologije kako bi praktično podigle barijeru pred konkurentima u oblasti napredne veštačke inteligencije.

Ako vlade uvedu ograničenja za razvoj najnaprednijih AI sistema, pitanje je da li će startapi imati dovoljno novca i ljudi da ispune takve zahteve.

Potpredsednik SAD Džej Di Vens rekao je u ponedeljak da mu je „pomalo čudno to što imate toliko kompanija koje razvijaju najnapredniju AI, a koje dolaze vladi i praktično mole da budu regulisane“.

Rekao je da mu to deluje kao „trojanski konj“.

Klark iz Anthropica rekao je da bi vlade trebalo da deluju dok još postoji mali broj ključnih igrača, jer je tada lakše uspostaviti „režim politika koji može da spreči nesreće i spreči da tehnologija izmakne kontroli“.

Kritičari to nazivaju strategijom „regulatornog zarobljavanja“, polazeći od pretpostavke da bi takva pravila mogla da uspore potencijalne konkurente.

Ilon Mask, izvršni direktor Anthropica Dario Amodei i izvršni direktor OpenAI-ja Sem Altman izjavili su da bi AI kompanije trebalo da uspore razvoj tehnologije.

Drugi smatraju da su Amodeijeva upozorenja o rizicima i pozivi na regulaciju i usporavanje razvoja iskreni.

Jošua Bengio, kanadski informatičar i jedan od pionira moderne veštačke inteligencije, koji se zalaže protiv nekontrolisano brzog razvoja AI-ja, skeptičan je prema tvrdnji da se radi o složenoj lobističkoj strategiji.

Usporavanje razvoja nije u interesu kompanija koje se pripremaju za izlazak na berzu sa vrednostima koje bi mogle da se mere bilionima dolara, rekao je.

„Ako vlade nametnu ono što oni traže, odnosno usporavanje kako bi se izbegli katastrofalni rizici, to će ih finansijski veoma mnogo koštati“, rekao je Bengio.

„Superinteligentna AI predstavlja pretnju istih, a moguće i većih razmera“ od nuklearnog oružja – Dez Braun, bivši britanski ministar odbrane, 7. septembar 2026.

„Nažalost, potpuno je u pravu“, rekao je Tobi Ord, viši istraživač Inicijative za upravljanje AI-jem Univerziteta Oksford.

„Kao što ne možemo da poništimo izum atomske bombe, kada jednom razvijemo AI sisteme koji nadmašuju čovečanstvo, povratak unazad bio bi gotovo nemoguć.“

Ključna činjenica je, međutim, da superinteligentna veštačka inteligencija još ne postoji i da nije izvesno da će uopšte nastati.

AI Futures Project, organizacija usmerena na bezbednosna pitanja, prognozira da se takav sistem neće pojaviti pre decembra 2028. godine. Izvršni direktor OpenAI-ja Sem Altman rekao je da bi do toga moglo da prođe sve do 2035.

RAND korporacija zaključila je da AI ne može sama da izazove upotrebu nuklearnog oružja zbog strogih zaštitnih mehanizama ugrađenih u sisteme komandovanja i kontrole.

Ta procena se, međutim, zasniva na pretpostavkama među kojima je i ona da vojni zvaničnici neće uvoditi AI u sisteme upravljanja nuklearnim oružjem.

Ujedinjene nacije su u decembru usvojile stav da ljudska kontrola i nadzor treba da ostanu prisutni u sistemima kontrole nuklearnog oružja.

AI bi ipak mogla da doprinese drugim nuklearnim rizicima.

Sistemi veštačke inteligencije mogli bi da koriste dezinformacije kako bi uticali na ljude koji donose odluke, na primer tako što bi ih obmanuli da protivnik upravo sprema nuklearni napad.

Međunarodna kampanja za ukidanje nuklearnog oružja upozorava da bi „sajber-napadi mogli da manipulišu informacijama koje donosioci odluka dobijaju pre odluke o lansiranju nuklearnog oružja i da ometaju funkcionisanje samog nuklearnog oružja“.

Organizacija takođe upozorava da bi AI mogla da ubrza druge aspekte ratovanja i time skrati vreme koje ljudima ostaje za donošenje odluka.

„Moraš da budeš moron da ne kažeš da ovo treba usporiti“ – Berni Sanders, demokratski senator iz Vermonta, 10. septembar 2026.

Sanders traži zabranu stvaranja superinteligencije i pauzu u razvoju napredne veštačke inteligencije, pozivajući se na lidere AI industrije koji sami kažu da razvijaju opasnu tehnologiju.

Najistaknutiji protivnik usporavanja je Donald Tramp, koji je ove nedelje na pozive da se razvoj uspori odgovorio da su jedine potrebne zaštitne mere „SNAŽAN I PAMETAN (VISOK IQ!) PREDSEDNIK“.

Tvrdio je da postoji „bolesna zavera“ protiv AI-ja i centara podataka „a jedini koji je zbog toga srećan jeste Kina“.

Pedro Domingos, profesor emeritus informatike na Univerzitetu Vašington, jedan je od zagovornika ubrzanog razvoja koji smatraju da istraživanje treba da se nastavi.

„Put ka boljem razumevanju i kontroli AI-ja vodi kroz više istraživanja, a ne manje“, rekao je.

„Zaista neodgovorno bilo bi postavljati prepreke tom istraživanju.“

Aleks Karp, izvršni direktor Palantira, rekao je:

„Da nemamo protivnike kakve imamo, veoma bih podržavao potpuno zaustavljanje ove tehnologije, ali ih imamo. Ne možete je zaustaviti zato što predstavlja strukturnu prednost.“

„Ne postoji prekosutra ako Kina pobedi u ovome. Ako nam odmaknu u AI-ju, ništa drugo više neće biti važno“ – Skot Besent, američki ministar finansija, 8. septembar 2026.

SAD i Kina daleko su ispred ostalih u razvoju veštačke inteligencije.

Postoji stav da bi prepuštanje vodeće pozicije Pekingu bilo praktično nepovratno, zbog čega nema prostora za usporavanje razvoja.

Takvo razmišljanje tretira AI kao svojevrsno superoružje, uporedivo sa gomilanjem nuklearnog arsenala tokom Hladnog rata, odnosno AI modele kao oružje za masovno uništenje, umesto kao široku grupu različitih tehnologija sa veoma raznovrsnim primenama.

Amodei je rekao da bi „kinesko vođstvo u AI-ju predstavljalo ozbiljnu opasnost za SAD i svet“.

Portparol kineske vlade odgovorio je da će „širenje straha, konfrontacija i zlonamerna konkurencija samo poremetiti proces globalnog upravljanja AI-jem, što nikome nije u interesu“.

Neki komentatori vide još jedan mogući motiv iza načina na koji Vašington i Anthropic predstavljaju kinesku pretnju.

Inženjer koji je radio za Hugging Face sugerisao je da Amodeijev poziv na usporavanje razvoja najnaprednijih sistema može da proizlazi iz želje da se suzbije napredak jeftinih kineskih AI modela otvorenog koda.

Ti modeli po sposobnostima već prilaze sistemima OpenAI-ja i Anthropica, dok je jedna od ključnih razlika u tome što je njihov izvorni kod dostupan svima i što korišćenje nije naplaćeno.

Zbog toga predstavljaju ozbiljnu pretnju planovima OpenAI-ja i Anthropica da njihove tehnologije postanu profitabilne, a u igri su stotine milijardi dolara.