Katastrofa može doći samo zbog ljudskih, a ne strojnih pogrešaka

Različiti futurolozi predvidjeli su ovakav eksponencijalni razvoj umjetne inteligencije, samo da se sjetimo Raya Kurzweila i njegove poznate knjige "The Singularity is Near". Kratak odgovor na pitanje zašto je došlo do ubrzanja razvoja umjetne inteligencije bio bi da je arhitektura transformera, koja je proizišla iz znanstvenog rada Googleovih inženjera, napravila jedan nepredvidljiv pomak.

U kratkom razdoblju postala je još dostupnija velikom broju ljudi i vidljivija u svakodnevnom životu na jedan novi način (kroz velike jezične modele), ne samo kao pozadinski algoritmi kojih nismo bili svjesni, u našim mobitelima - kaže Aco Momčilović, psiholog i istraživač umjetne inteligencije, predsjednik Globalnog instituta za etiku umjetne inteligencije i globalni voditelj AI - SIG IPMA, te dodaje:

- No tri snažna vektora "zaključala" su eksponencijalni rast. Prvi je skaliranje modela i podataka. Nakon što je optimiziran omjer između količine podataka i broja parametara, industrija se odmaknula od logike "veći model" prema "bolje nahranjen model". Multimodalnost - sposobnost sustava da u istom okruženju obrađuje tekst, sliku, zvuk i video - naglo je proširila područja primjene.

Drugi je vektor hardver i inženjering: novi AI čipovi dramatično su snizili cijenu obrade i omogućili umjetnoj inteligenciji da uđe u sve procese, od industrijskih postrojenja do kućnih uređaja. Novi model ChatGPT-5, koji je upravo izašao, upola je smanjio dosadašnju cijenu tokena.

Treći je vektor ekosustav i regulativa - pojavljivanje jasnih pravila, poput EU AI Acta, potaknulo je investicije i profesionaliziralo pristup razvoju i implementaciji. To je naravno zasebna tema oko koje ima i pozitivnih i negativnih mišljenja, neke od tih aspekata obrađujem u svome predavanju: AI i etika.

Umjetna inteligencija kao političko, ekonomsko, sigurnosno i moralno pitanje...?

- Upravo s tim aspektima sam se ja i počeo baviti prije više od šest godina. Umjetna inteligencija je "tehnologija opće namjene", što znači da ima potencijal mijenjati sve sektore društva. U politici i geostrategiji države koje kontroliraju modele, podatke i čipove istodobno oblikuju globalne standarde. U ekonomiji AI povećava produktivnost, posebno u zadacima temeljenima na znanju, ali otvara i jaz između uspješnih pilot-projekata i njihove stvarne primjene u strogo reguliranim okruženjima. Imamo mišljenja da postoji strah da ona bude novo oruđe kolonijalizma koje će stvoriti nove kolonije!

U vojnoj i sigurnosnoj dimenziji, od kibernetičkih prijetnji do autonomnog oružja, standardizirano upravljanje rizicima postaje nužnost. Prije nekoliko godina pisao sam neke tekstove o upotrebi u vojne svrhe, i stvari koje se tu događaju vrlo su zanimljive, iako nismo došli ni blizu njihova vrhunca i značajne prednosti koju bi netko ostvario.

Tu su i moralna te teološka pitanja - od dostojanstva i slobodne volje do istine i smisla rada - te ključno pitanje: tko donosi odluke koje izravno utječu na ljude? U posljednjih godinu dana radio sam istraživanja i skupljao podatke o utjecaju umjetne inteligencije na religiju, i stavove i znanja svećenika o toj temi. Vrlo zanimljivo područje. Krajem kolovoza na rasporedu mi je predavanje islamskim vjeroučiteljima o raznim aspektima i potencijalnim sinergijama u području religije, gdje im planiram pokazati i neke konkretne primjere.

Što zapravo znači "etika AI" u praksi?

- Etika u AI-ju odavno je prešla okvire teoretskih "trolley problema". Kad govorimo o "etici AI" u praksi, ne govorimo o apstraktnim deklaracijama, nego o operativnom upravljanju rizicima. Načela i obveze pretočeni su u međunarodne smjernice i standarde, koji vrijednosti poput pravednosti, transparentnosti i nadzora pretvaraju u mjerljive zahtjeve. Postoje okviri i kontrole za identifikaciju, mjerenje i ublažavanje rizika - od netočnosti i pristranosti do problema privatnosti i sigurnosti.

Regulatorna provedba, primjerice kroz EU AI Act, uvodi jasne razine rizika, obveze za pružatelje modela i stroge kazne za kršenje pravila. No moj je stav da većina etičkih problema - bias, netransparentnost, sigurnost - nije nerješiva, nego da je najveći izazov u nedostatku discipline u praćenju sustava nakon puštanja u rad.

UNICEF već godinama upozorava da AI sustavi, čak i kada nisu izravno namijenjeni djeci, na njih imaju značajan utjecaj te zahtijevaju dodatne zaštitne mjere. Ja, kao osnivač Global AI Ethics Instituta, volim posebno istaknuti da postoji multikulturološka dimenzija etike u AI-ju, gdje ne smijemo dopustiti da zemlje koje ne sudjeluju direktno u njezinu razvoju, budu isključene iz razgovora o njezinoj implementaciji. Zato planiram nastaviti proučavati i rizike i razna subpodručja, jer treba istraživati i razvoj etike AI-ja i u medicini, u vojsci, u školstvu itd. Zbog tog sam razloga povezan s raznim globalnim domenskim stručnjacima i s njima razmjenjujem informacije.

Da se dotaknemo još jednog aktualnog pojma - transhumanizma... Ukratko, "čovjek + čip" ili "AI bez čovjeka"?

- U kontekstu transhumanizma valja razlikovati augmentaciju - pomagala, neurosučelja i proteze - od autonomizacije, tj. sustava koji potpuno zamjenjuju ljudsko prosuđivanje. U kratkom roku, od nekoliko godina, realna je kognitivna augmentacija kroz "kopilote" i agente, uz rizike poput prevelike ovisnosti o alatima. U srednjem roku, od pet do deset godina, pretpostavljam, neurotehnologija će nesumnjivo napredovati, no najveće promjene doći će iz redizajna organizacijskih procesa oko AI sustava. Postoje već predviđanja o kompanijama vrijednim i po milijardu dolara koje će imati samo jednog zaposlenog.

Optimizam oko "human-in-the-loop" pristupa ima smisla samo ako postoje čvrste tehničke i pravne garancije da čovjek može preuzeti kontrolu. Odgovor na ovo pitanje vidjet ćemo tek kada budemo znali kojom će brzinom ovaj napredak biti nastavljen. Vrlo je moguće da sada uopće ne možemo predvidjeti kamo će nas to odvesti.

Što dalje - simbioza s umjetnom inteligencijom ili katastrofa?

- Volim istraživati i planirati i za utopijske i distopijske scenarije. Ishod, bar za sada, tj. u ovome trenutku, nije unaprijed zadan; ovisi o načinu upravljanja, o našim odlukama, o našem angažmanu i svijesti. Vidjet ćemo što će biti s EU-om. EU po nekima nema namjeru usporavati primjenu AI Acta, čime zapravo postavlja globalne standarde, a drugi upozoravaju da već sada postoje neke informacije koje pokazuju da se od nekih stvari već odustaje, da se druge usporavaju, a treće propituju.

Tehnička trajektorija ide prema razvoju hardvera i agentnih sustava koji će smanjiti cijenu "inteligencije po zadatku", ali će istodobno povećati sigurnosne i operativne rizike, zbog čega će rigorozna testiranja i evaluacije postati industrijski standard.

Ali sve to će ovisiti o glavnim igračima koji razvijaju tehnologiju, a to su za sada SAD i Kina. Koliko EU zaostaje, govori jedan podatak koji sam objavio u postu na svome LinkedIn profilu, gdje samo jedna američka korporacija (xAI) ima više grafičkih kartica specijaliziranih za razvoj AI-ja od cijele Europe. Pitanje je samo i kakve nam se sve katastrofe mogu dogoditi, ali i to je jedna šira, jako zanimljiva tema. Za sada bih rekao da, s obzirom na prihvaćanje tehnologije, gledamo simbiozu u raznim segmentima života i poslovanja, i pitanje je samo hoće li jaz između onih koji se koriste i ne koriste AI-jem postati prevelik da bi se poslije smanjio.

Nakon svega kakav se zaključak nameće, bar za sada...?

- Posljedice AI-ja osjetit će se u gotovo svim sektorima. U zdravstvu, AI može pomoći u trijaži, dokumentaciji i asistenciji, ali isključivo uz strogu validaciju i nadzor. Ja sam upravo realizirao projekt - Savjetomat AI, koji pomaže ljudima oko inicijalnih pitanja vezano uz njihove svakodnevne probleme ili mentalo zdravlje. Grupa na Facebooku je vrlo brzo došla do 2000 ljudi. I to je tek početak mogućnosti koje ćemo vidjeti.

U financijama i pravu najveći povrat ulaganja dolazi iz automatizacije repetitivnih zadataka, pod uvjetom da je osigurana dokazivost i nadzor nad modelima. U javnom sektoru i obrazovanju potencijal za društveni učinak je golem, ali prati ga reputacijski rizik, pa je nužno započeti s pilotima koji imaju jasno definirane metrike uspjeha. Ja sam u nekoliko kompanija napravio pilot-projekte upotrebe AI-ja u raznim procesima, i rezultati su jako dobri. Tome se planiram dodatno posvetiti i u sljedećoj godini. Po meni obrazovanje je jedno od najvećih područja, koje će biti donekle zanemareno, jer ne daje toliko brz povrat na investiciju kao neka druga područja.

U Hrvatsku najesen dolazi Yuval Noah Harrari, izraelski medievist, vojni povjesničar, javni intelektualac i popularnoznanstveni pisac. On je u jednom od svojih tekstova objasnio zašto ne misli da će budućost biti ni kao Terminator ni kao Matrix. Ako postojeće standarde i zakonske obveze pretočimo u svakodnevnu praksu, umjetna inteligencija može postati "egzoskelet za um" - alat koji čovjeku ostavlja svrhu, odgovornost i posljednju riječ. U svojem projektu AI Art SIngularity upravo se bavim pitanjima kreativnosti, intelektualnog vlasništva i odgovornosti. Ako taj korak preskočimo, katastrofa neće doći iz "zle" superinteligencije, nego iz niza banalnih, kumulativnih propusta u dizajnu i nadzoru, dakle ljudskih, a ne strojnih pogrešaka.