Da li je veštačka inteligencija zaista bezbednosni rizik?

Kada se o veštačkoj inteligenciji govori kroz svakodnevnu upotrebu, najčešće se misli na četbotove, pisanje mejlova, generisanje slika, pretragu, kodiranje ili pomoć u učenju. Poslednjih nedelja pojavila se druga, mnogo ozbiljnija slika: najmoćniji AI modeli ulaze u prostor u kojem se odlučuje o sajber-bezbednosti, obaveštajnim operacijama i vojnim ciljevima.

Važno upozorenje stiglo je iz saveza Five Eyes. To je obaveštajni savez pet anglosaksonskih država - Sjedinjenih Američkih Država, Velike Britanije, Kanade, Australije i Novog Zelanda. Nastao je iz posleratne obaveštajne saradnje i danas predstavlja jedan od najvažnijih krugova razmene poverljivih bezbednosnih informacija na svetu. Kada takav savez javno upozori da se AI rizik u sajber-prostoru ubrzava, to znači da se pitanje pomerilo iz Silicijumske doline u zonu nacionalne bezbednosti.

Britanski Nacionalni centar za sajber bezbednost, kao deo tog kruga, upozorio je da će napredni, takozvani frontier AI modeli promeniti i napad i odbranu u sajber-prostoru. U zvaničnom tekstu stoji da će AI pomoći odbrani, ali da istovremeno ubrzava „brzinu, obim i sofisticiranost sajber-pretnji“. Napredni modeli bi mogli da „fundamentalno transformišu“ i ofanzivne i defanzivne sajber-sposobnosti, a vremenski okvir „nisu godine, već meseci“, navode iz Nacionalno centra za sajber bezbednost.

AI postaje alat koji može da ubrza pronalaženje slabih tačaka, obradu obaveštajnih podataka, izbor prioriteta i donošenje odluka u sistemima gde su greške skupe, a posledice stvarne.

Slučaj Anthropic: kada model postane predmet ograničenja

Prema Rojtersu, američka vlada je u junu naredila kompaniji Anthropic da suspenduje izvoz, odnosno pristup najnovijim modelima Mythos i Fable za strane korisnike i strane državljane, pozivajući se na brige za nacionalnu bezbednost. Ova zabrana je u međuvremenu ograničena, ali ne i potpuno ukinuta.

Do sada su se ograničenja u AI trci uglavnom vezivala za čipove, data-centre i opremu za proizvodnju poluprovodnika. Države su kontrolisale hardver. Sada se kontroliše i sam pristup modelima - softveru koji ne mora fizički da pređe granicu, jer mu se pristupa preko mreže.

Prema izveštaju AP-a model Mythos je tokom vežbe sa američkim obaveštajnim agencijama u okviru programa Project Glasswing identifikovao ranjivosti u osetljivim američkim vladinim sistemima. Senator Mark Vorner rekao je na kongresnom saslušanju da mu je direktor NSA Džošua Rad preneo kako je Mythos „provalio u gotovo sve naše klasifikovane sisteme, ne za nedelje, već za sate“. Ipak, isti izveštaj navodi ogradu američkog zvaničnika: to što je model brzo identifikovao ranjivosti ne znači nužno da ih je u tom roku i uspešno iskoristio.

Očigledno je da ovakvi modeli više ne mogu biti tretirani kao običan softverski proizvod.

Iran: AI ušao u vojni lanac odlučivanja

Prema pisanju Vašington posta, američka vojska koristila je sistem Maven Smart System, povezan sa Anthropicovim modelom Claude, tokom planiranja potencijalnih udara u Iranu. Vašington post piše, pozivajući se na ljude upoznate sa sistemom, da je Maven, pokretan Claudeom, predlagao stotine meta, davao precizne koordinate i rangirao ih po važnosti.

AI model je bio ugrađen u sistem koji pomaže da se ogromne količine vojnih i obaveštajnih podataka pretvore u operativne predloge - šta je meta, gde se nalazi, koliko je važna i kojim redosledom se razmatra.

Rojters, oslanjajući se na AP, navodi da su odnosi Anthropica i američke vlade uzdrmani, kada je Anthropic odbio da dozvoli američkoj vojsci upotrebu svojih modela za domaći nadzor i potpuno autonomne sisteme oružja, posle čega je vlada kompaniju stavila na listu nacionalno-bezbednosnog rizika. U istom tekstu navodi se i da je NSA izgubila pristup Mythosu usred spora.

Sajber-prostor pojavljuje se kao najčistiji teren za razumevanje nove AI ere. U klasičnom ratu može se praviti razlika između oružja i odbrane. U sajber bezbednosti ta granica je mnogo mutnija. Alat koji pronalazi ranjivost može da pomogne administratoru da je zakrpi, ali i napadaču da je iskoristi.

Novozelandski NCSC, takođe deo Five Eyes prostora, opisuje to kao jasan problem dvostruke upotrebe: isti modeli koji jačaju odbranu mogu biti iskorišćeni za zlonamerne sajber-aktivnosti i druge oblike štete - brže, jeftinije i u većem obimu. Upozorenje posebno pominje da frontier AI povećava rizik od poznatih ranjivosti, zastarelih sistema i loše sajber-higijene, stvarajući ono što naziva “olujom ranjivosti”.

Problem možda nisu samo nepoznate, futurističke pretnje. Problem je i to što AI može neverovatno ubrzati iskorišćavanje starih i već poznatih slabosti: lozinki koje nisu promenjene, servera koji nisu zakrpljeni, zastarelih biblioteka, javno dostupnih sistema i firmi koje odlažu bezbednosna ažuriranja.

AI je već dovoljno sposoban da ga države tretiraju kao kontrolisanu opasnost. Ne mora da bude “svestan”. Ne mora da ima nameru. Ne mora da samostalno vodi operaciju. Dovoljno je da ubrza ono što ljudi i sistemi već rade: čita kod, traži propuste, povezuje podatke, predlaže prioritete, skraćuje vreme planiranja i omogućava da se odluke donose brže nego ranije.

Tehnološki razvoj bez sumnje će se nastaviti, ali sa svešću da istovremeno razvijamo rizik za sebe i oružje kojim ćemo se od njega braniti.