UI nije neutralna: tko piše kod – piše i našu budućnost

Autorica knjige "Povijest umjetne inteligencije", dr. sc. Lana Žaja, direktorica tvrtke Infinity Alpha Lab, koja se bavi programiranjem, arhitekturom informacijskih sustava i razvojem alata umjetne inteligencije, u ovom intervjuu donosi sveobuhvatan pogled na razvoj AI-ja, njegove implikacije na društvo i čovjeka te odgovara na pitanje: kamo idemo dalje - i s kim?

Ukratko, kako je tekao razvoj umjetne inteligencije i što je dovelo do ubrzanja kakvo imamo danas?

- Razvoj umjetne inteligencije možemo podijeliti u tri ključna vala. Prvi je bio simbolički, s algoritmima temeljenima na logici i pravilima (od 1950-ih do 1980-ih). Drugi val donosi strojno učenje i rad s podacima, a treći, u kojem danas živimo, obilježen je dubokim učenjem, velikim jezičnim modelima (LLM) i transformacijom kognitivnih procesa s pomoću strojeva.

Do ubrzanja je došlo jer su se poklopila tri ključna čimbenika: goleme količine podataka, porast računalne snage (posebno GPU-a) i algoritamske inovacije poput neuronskih mreža s višestrukim slojevima.

Srž ubrzanog razvoja umjetne inteligencije je u znanju koje se neprestano nadograđuje na prethodno - kroz sustave koji uče, optimiziraju i usavršavaju vlastite metode, brže nego što to dopušta prirodan tempo ljudske evolucije.

U knjizi "Povijest umjetne inteligencije" (Hrvatski državni arhiv, 2023.) trudila sam se pokazati da AI nije samo tehnološki fenomen nego i kulturni, idejni i filozofski, koji se razvijao usporedno s čovjekovom potrebom da razumije i replicira vlastiti um. U tome se krije i ljepota, ali i opasnost ove tehnologije.

Koliko je umjetna inteligencija i društveno, moralno i geopolitičko pitanje?

- Umjetna inteligencija istodobno je pitanje znanosti, ekonomije, sigurnosti, moći i smisla. Onaj tko kontrolira algoritme, kontrolira i narative. Onaj tko kontrolira podatke - oblikuje ponašanje masa. AI više nije samo alat već arhitekt stvarnosti. U tom smislu ne možemo ju više promatrati kao neutralnu tehnologiju.

Suočeni smo s dubokim etičkim dilemama, od autonomnog odlučivanja do odgovornosti za pogreške koje čini sustav bez svijesti. Primjerice, AI može pomoći u predviđanju klimatskih katastrofa ili olakšati masovni nadzor i manipulaciju. Granica je uvijek u ljudskoj namjeri.

U kontekstu globalne politike razvija se utrka u dominaciji nad AI tehnologijama. Kina, SAD i EU vode vrlo različite pristupe, ali pitanje "tko piše kod i s kojom namjerom?" postaje ključno pitanje civilizacijske budućnosti.

Transhumanizam - između utopije i distopije. Možemo li biti optimisti?

- Transhumanizam se temelji na ideji da čovjek može nadmašiti svoja biološka ograničenja tehnologijom. To uključuje neuralne čipove, genske intervencije, produženje života i suživot sa strojevima. No ključno je pitanje: što ostaje od čovjeka ako ga se potpuno optimizira? Možemo li imati empatiju bez tijela? Slobodu bez ranjivosti? Ili ćemo postati funkcionalni, ali bezdušni entiteti?

Osobno vjerujem u mogućnost tehnološkog napretka bez gubitka svijesti o duši, ali samo ako čovjek ostane središte svrhe, a ne nusproizvod evolucije stroja. Optimizam je moguć, ali nije pasivan. On traži odgovornost.

Prati li Hrvatska korak s razvojem AI-ja?

- Naša znanost pokazuje potencijal kroz pojedince i timove na FER-u, PMF-u i u startup zajednici, ali nemamo sustavno integriranu AI strategiju u obrazovanju i gospodarstvu. Kurikulum informatike još ne obuhvaća koncept umjetne inteligencije na razinama gdje bi to bilo nužno. Većina studenata u Hrvatskoj diplomira bez ikakvog doticaja s osnovama strojnog učenja ili digitalne etike.

S druge strane, kroz projekte poput europskih centara izvrsnosti, naši znanstvenici sudjeluju u važnim istraživanjima. No jaz između akademske i poslovne primjene još je uvijek prevelik. Ako ne ulažemo u edukaciju, nećemo moći razvijati suverene tehnologije, nego ćemo ostati korisnici tuđih rješenja. To znači i gubitak digitalne neovisnosti.

Budućnost umjetne inteligencije - simbioza ili katastrofa?

- Naša budućnost s AI-jem ovisi isključivo o nama samima, ljudima. Nitko ne može točno predvidjeti što nas čeka. Široke mase često posežu za utopijskim ili apokaliptičnim narativima, bez kritičkog promišljanja.

Umjetna inteligencija sve će više biti uključena u zdravstvo, obrazovanje, pravosuđe, proizvodnju i svakodnevne odluke. Ono što će razlikovati sustave koji pomažu od onih koji ugrožavaju, bit će vrijednosti koje u njih ugradimo. Ako stvorimo sustave koji razumiju pravdu, empatiju i transparentnost - bit ćemo u simbiozi. Ako stvorimo hladne sustave moći, postat ćemo zarobljenici vlastite oholosti.

AI je ogledalo čovječanstva. Ako nas prevlada, to neće biti zato što je bio moćan, nego zato što smo mi bili neoprezni.

Trenutno radim na nastavku knjige “Povijest umjetne inteligencije”, koja će se baviti upravo tim pitanjem: Što znači ostati čovjek u svijetu strojeva koji nas poznaju bolje nego mi sami sebe?