UN upozoravaju: svet nema dovoljno znanja da upravlja veštačkom inteligencijom

Veštačka inteligencija razvija se brže nego što države, nauka i postojeći sistemi kontrole mogu da prate, upozorio je Nezavisni međunarodni naučni panel Ujedinjenih nacija u prvom globalnom naučnom izveštaju o AI.

Preliminarni izveštaj, koji je pripremilo 40 stručnjaka iz različitih delova sveta, biće predstavljen vladama 6. i 7. jula na prvom Globalnom dijalogu o upravljanju veštačkom inteligencijom u Ženevi. Njegova posebna težina je u tome što prvi put ovakva procena dolazi sa najvišeg međunarodnog nivoa: do sada su najvidljivije analize o koristima i rizicima AI najčešće radile same tehnološke kompanije, a povremeno pojedinačne stručne, istraživačke i obrazovne institucije. Potpunija analiza najavljena je za narednu godinu, ali je osnovna poruka već jasna: tehnologija ulazi u sve više oblasti života, dok znanje, nadzor i međunarodna pravila kasne za njenim razvojem.

Mi ovo ne znamo

„Svet ne može da upravlja onim što ne razume“, rekao je generalni sekretar UN Antonio Gutereš. Dodao je da je potencijal veštačke inteligencije veliki, ali da su rizici stvarni i da cena čekanja raste.

Izveštaj istovremeno opisuje ogromne koristi i ozbiljne rizike. AI već ubrzava naučna istraživanja, razvoj lekova i vakcina, pomaže u obrazovanju, zdravstvu i poljoprivredi, i otvara mogućnost novih ekonomskih dobitaka. Isti sistemi mogu da se koriste za prevare, dezinformacije, sajber-napade, biološke pretnje i masovno proizveden štetan sadržaj.

Panel posebno upozorava na razvoj sve autonomnijih, takozvanih agentskih AI sistema. To su sistemi koji ne odgovaraju samo na pitanje korisnika, već mogu da planiraju, koriste digitalne alate i obavljaju složenije zadatke u realnom svetu. Prema izveštaju, sposobnosti AI sistema napreduju takvom brzinom da se složenost zadataka koje mogu da izvrše udvostručuje na svakih nekoliko meseci.

Jošua Bendžio, jedan od najpoznatijih istraživača veštačke inteligencije i kopredsedavajući UN panela, rekao je da sposobnosti AI modela već nadmašuju i naučno razumevanje i sposobnost vlada da se prilagode. Prema njegovim rečima, postoje sve jači dokazi o obmanjujućem ponašanju AI sistema, a nauka danas ne može da garantuje da napredniji sistemi neće izazvati katastrofalnu štetu, samostalno ili kroz zloupotrebu.

I nismo svi u istom položaju

Drugi veliki deo izveštaja odnosi se na nejednakost. Više od milijardu ljudi već koristi konverzacione AI alate svake nedelje, ali se razvoj tehnologije i pristup infrastrukturi koncentrišu u malom broju zemalja i kompanija. Rojters prenosi podatak iz izveštaja da SAD imaju oko 75 odsto računarske snage među 500 najvećih AI superračunara na svetu, dok Kina ima oko 15 odsto.

Takva koncentracija otvara pitanje ko će zaista imati kontrolu nad standardima, zaštitama i načinom na koji se AI prilagođava lokalnim društvima. U izveštaju se navodi da pristup alatima sam po sebi ne donosi ravnopravnu korist ako zemlje zavise od stranih modela, cloud infrastrukture i tokova podataka.

Poseban problem su jezici. U svetu se govori više od 7.000 jezika, a najmoćniji AI modeli dobro rade samo na delu njih. U zdravstvenim, pravnim ili obrazovnim sistemima loš prevod nije samo tehnička greška. Može promeniti dijagnozu, savet ili odluku. Gardijan navodi primer iz izveštaja u kojem su greške mašinskog prevođenja u zdravstvenom kontekstu mogle dovesti do opasno pogrešnog razumevanja.

Zajedničko je ugrožavanje planete

UN panel ukazuje i na ekološku cenu razvoja AI. Data centri traže ogromne količine električne energije, vodu za hlađenje i novu infrastrukturu. Zemlje koje žele sopstvenu AI infrastrukturu moraće da razmišljaju i o energetskom sistemu, dostupnosti vode i emisijama gasova sa efektom staklene bašte.

Najveći izazov za vlade može biti tehnički kapacitet. Izveštaj navodi da većina zemalja, uključujući i mnoge razvijene ekonomije, nema dovoljno stručnosti da samostalno proceni najmoćnije AI modele ili da ravnopravno učestvuje u njihovom upravljanju. Postojeće bezbednosne procene često zavise od podataka koje dostavljaju same kompanije.

Zbog toga UN izveštaj ima širi značaj od još jedne rasprave o tehnologiji. On pokušava da napravi zajedničku naučnu osnovu za države koje se tek spremaju da odluče kako će regulisati AI. Panel ne propisuje konkretan zakon, već postavlja mapu problema: šta znamo, šta ne znamo dovoljno, gde su koristi, gde su rizici i gde države već zaostaju.