UI TRANZICIJA, A NE NAGLI PREOKRET, IMPERATIV JE NAŠEGA VREMENA

Nakon što sam veći dio svoje karijere proveo uronjen u pitanja nacionalne obrane, strategije i upravljanja, često sam se suočavao s novim tehnologijama koje nas prisiljavaju da rekalibriramo i naša očekivanja i naše odgovornosti. Od nuklearnog sukoba, hladnog rata do današnjeg digitalnog bojnog polja, svaka generacija se suočava sa svojom verzijom transformativnog rizika. U našem vremenu taj rizik, i to obećanje, nosi ime – umjetna inteligencija – naglašava Geoffrey Hoon, bivši državni tajnik Ujedinjenog Kraljevstva za obranu. Iz njegova predavanja »Umjetna inteligencija, moć i odgovornost: Razumijevanje rizika u svijetu koji se mijenja«, održanog u sklopu konferencije IFIMES-a »Razumijevanje umjetne inteligencije i robotike« u organizaciji Globalne akademije za geopolitičko-tehnološku budućnost (GPTF), prenosimo najzanimljivije dijelove, uz neznatne prilagodbe u opremi priloga.

Strateški značaj razumijevanja

Kada sam prvi put stupio u javnu službu, tehnologija je već počela mijenjati vojnu doktrinu. Precizno oružje, mrežno-centrično ratovanje, bespilotni sustavi – to su bili nagovještaji revolucije u obrambenim poslovima. Ali umjetna inteligencija je drukčija. Ona nije samo još jedan instrument u našem arsenalu; ona je multiplikator sile, donositelj odluka i potencijalno samostalni oblikovatelj politike.

Sustavi umjetne inteligencije sada mogu interpretirati satelitske snimke s većom točnošću od ljudskih analitičara. Oni mogu autonomno pratiti cyber prijetnje, kontrolirati rojeve dronova i provoditi logističku koordinaciju u realnom vremenu uz minimalan ljudski nadzor. U budućnosti bi im mogle biti povjerene odluke koje imaju smrtonosne posljedice. Strateške implikacije su duboke i protežu se daleko izvan bojnog polja.

Ali umjetna inteligencija nije ograničena samo na obranu. Utkana je u naše zdravstvene sustave, financijske institucije, transportne mreže i sve više u naše demokratske procese. Ukratko, domena umjetne inteligencije je domena same uprave.

Tijekom mog mandata u Parlamentu Ujedinjenog Kraljevstva, posebno kao državni tajnik za obranu od 1999. do 2005. godine, imao sam odgovornost nadgledanja nekih od najznačajnijih ulaganja nacije u vojna istraživanja i nove tehnologije. Usko sam surađivao s našim znanstvenim zajednicama, dobavljačima sredstava obrane i NATO partnerima kako bismo integrirali inovacije u nacionalnu sigurnosnu politiku. Čak i tada smo vidjeli rane začetke onoga što bi umjetna inteligencija mogla postati – alate koji bi mogli poboljšati donošenje odluka, zaštititi živote i redefinirati moderno ratovanje. Danas se ta granica dramatično proširila, što čini još važnijim razumijevanje sila koje sada oblikuju naš svijet.

Etički i demokratski nadzor

Dopustite mi da budem izravan: tehnologija ne dolazi s ugrađenim moralnim kompasom. Umjetnu inteligenciju stvaraju ljudi – obučeni na podacima često punim predrasuda, oblikovani komercijalnim prioritetima moćnih kompanija i primijenjeni u kontekstima gdje je transparentnost nedostižna.

Ovo zahtijeva rigoroznu etičku provjeru. Koji su principi koji bi trebali voditi razvoj i primjenu umjetne inteligencije? Tko odlučuje kada je sustav umjetne inteligencije dovoljno pouzdan da donosi odluke o nečijoj slobodi, egzistenciji ili sigurnosti? Ovo nisu pitanja samo za inženjere. Ona zahtijevaju aktivno sudjelovanje kreatora politika, etičara, civilnog društva i, prije svega, građana.

Kao bivši djelatnik Ministarstva obrane znam da se u trenucima krize odluke donose ubrzano. Ali brzina nikada ne smije ići na štetu odgovornosti. Svaka vojna ili vladina upotreba umjetne inteligencije mora biti ugrađena u jasne linije demokratske kontrole, nadzora i javne legitimnosti.

Geopolitički krajobraz

Također moramo promatrati umjetnu inteligenciju kroz prizmu geopolitike. Globalna utrka za razvoj i dominaciju umjetne inteligencije često se predstavlja kao natjecanje između velikih sila. Sjedinjene Američke Države i Kina ulažu goleme svote novca u istraživanje umjetne inteligencije, dok Europa nastoji izgraditi treći put – onaj koji je utemeljen na ljudskim pravima, privatnosti i regulatornoj strogosti.

Ovo nije samo tehnološko natjecanje – to je sukob vrijednosti. Ako vjerujemo u demokraciju, u individualnu slobodu i u vladavinu prava, moramo izgraditi sustave umjetne inteligencije koji odražavaju i jačaju te vrijednosti. To znači oduprijeti se iskušenju usvajanja neprozirnih modela nadzora u ime efikasnosti ili kontrole.

To također znači sklapanje međunarodnih sporazuma kako bi se spriječilo naoružavanje umjetnom inteligencijom na načine koji bi mogli destabilizirati globalnu sigurnost. Baš kao što smo uspostavili ugovore o nuklearnom oružju, sada moramo razmotriti slične okvire za autonomno oružje, algoritamsko ratovanje i zloupotrebu umjetne inteligencije u hibridnim ili informacijskim sukobima.

UI i budućnost rada

Naravno, revolucija umjetne inteligencije neće ostati ograničena samo na vlade pojedinih država ili tehnološke divove. Ona već mijenja način na koji obični ljudi žive i rade. Neki se boje da će umjetna inteligencija potpuno zamijeniti radna mjesta – vozače, računovođe, čak i novinare. I u toj zabrinutosti ima istine. Ali ne bismo trebali biti paralizirani strahom. Umjesto toga, moramo ulagati u obrazovanje i prekvalifikaciju, kako bi radna snaga budućnosti bila opremljena za rad uz umjetnu inteligenciju, a ne da bude njome istisnuta. Ako umjetna inteligencija može automatizirati zamorne zadatke, onda se ljudska bića mogu usredotočiti na ono što najbolje rade: kreativno razmišljanje, empatiju, liderstvo i moralno prosuđivanje.

Ali ova tranzicija mora biti upravljana. Vlade imaju dužnost predvidjeti društveni utjecaj umjetne inteligencije i ublažiti udarac za one koji bi mogli zaostati. Pravedna tranzicija, a ne nagli preokret, imperativ je našeg vremena.

Informirano građanstvo

U konačnici, »Razumijevanje umjetne inteligencije« mora biti društveni projekt. Nije dovoljno da šačica stručnjaka ili regulatora razumije ove sustave. Svaki građanin zaslužuje znati kako se donose odluke koje na njih utječu. Svaki student treba naučiti ne samo kako se koristiti umjetnom inteligencijom već i kako ona funkcionira i zašto je to važno. Zato je ovaj program toliko važan. Poticanjem javne pismenosti u području umjetne inteligencije, jačamo demokratske temelje našeg društva. Činimo se otpornijim na manipulaciju, nejednakost, autoritarnu zloupotrebu.

U godinama koje dolaze trebat će nam više od inovacija. Trebat će nam mudrost – kolektivna mudrost. Trebat će nam liderstvo koje razumije da će izbori koje sada donosimo odjekivati ??generacijama. I trebat će nam budnost. Jer su ulozi visoki.

Zaključak: Završit ću jednom refleksijom. Dok sam služio u vladi UK-a, suočavali smo se s prijetnjama koje su bile vidljive, opipljive, a u nekim slučajevima i predvidljive. Umjetna inteligencija je drukčija. Ona je difuzna, ugrađena u kod i često djeluje nevidljivo. Ali njezini efekti bit će sve samo ne skriveni.

Kao što detaljnije istražujem u svojoj nedavnoj knjizi »See How They Run«, liderstvo danas zahtijeva i predviđanje i poniznost. Imamo izbor. Možemo tretirati umjetnu inteligenciju kao neprozirnu silu koja nam se jednostavno događa. Ili je možemo razumjeti, oblikovati i voditi u skladu s našim najdubljim vrijednostima. Neka ovo bude trenutak kada ćemo izabrati razumijevanje umjesto neznanja, upravljanje umjesto kaosa i humanost umjesto oholosti. (Ljubljana/London, 16. lipnja 2025./Tekst predstavlja stav autora i ne odražava nužno stav IFIMES-a).