Predajete logiku i umjetnu inteligenciju na Fakultetu hrvatskih studija. Koliko se danas općenito na hrvatskim fakultetima predaje i uči o umjetnoj inteligenciji? Što konkretno predajete i učite studente te kakav je njihov interes za to područje?

Na fakultetima se čak dosta uči o umjetnoj inteligenciji. Po meni, kvaliteta nastave iz umjetne inteligencije često nije na razini kao što je izvan Hrvatske jer se studente poučava o njoj tako da se uopće ne kodira, a to je ključno, ili pak da se samo kodira, što je skoro pa jednako loše.

Učiti o umjetnoj inteligenciji bez kodiranja jest kao da učite voziti isključivo gledajući snimke HAK-ovih kamera − neke se stvari jednostavno ne mogu ozbiljno naučiti ako se rukavi ne zasuču, a učiti o njoj bez filozofije jest kao da nekog pustite u promet, a da mu niste objasnili prometna pravila.

Ali stavivši fakultete na stranu, po mom mišljenju veći je problem to što se o umjetnoj inteligenciji ništa ne govori ni u jednom srednjoškolskom predmetu. U srednjoškolskom udžbeniku iz logike, koji sam napisao s kolegama Skelac i Kardum, pronašao sam mjesta za teme iz umjetne inteligencije, što je uzrokovalo negodovanje anonimnih recenzenata, no inzistirali smo na tome da ostane barem kao fakultativni dio udžbenika.

Duboko se nadam da će onaj tko bude radio sljedeći kurikulum za gimnazije shvatiti važnost te teme i uključiti je kao obvezan dio nastave iz logike, i to na ozbiljan i rigorozan način, onako kako smo mi pristupili tome u našem udžbeniku.

Hoće li potreba za stručnjacima o AI-ju biti sve veća i gdje se oni mogu educirati? Čime sve studenti moraju ovladati da bi bili spremni za svijet u kojem je AI neophodan?

Paradoksalno, mislim da ne, ali ne zato što umjetna inteligencija neće zaživjeti, nego baš suprotno. Starije će se generacije sjetiti kako su ih njihovi roditelji gurali u daktilografske škole jer će 'jednog dana tipkanje biti jako traženo'. Zanimljiv je moment da su bili u pravu, ali je problem u tome što je danas tipkanje toliko velik dio života da nema mjesta za 'stručnjake u tipkanju' jer svatko tipka svoje.

Mislim da će slično biti i s umjetnom inteligencijom. Zbog toga što će umjetna inteligencija biti toliko dominantna svatko će trenirati svoje modele, pa jednostavno neće biti posebne potrebe za 'stručnjacima za AI' u današnjem smislu te riječi. Kao i kod tipkanja, razvit će se mnogostrukost novih zanimanja uz pomoć umjetne inteligencije i njih će biti puno.

To je ujedno razlog zbog kojeg je potrebno što prije djecu naučiti trenirati modele, baš kao i tipkati. Kao što danas nije opcija da netko upiše fakultet i ne zna tipkati ili koristiti MS Office, slično će biti s AI tehnologijama u budućnosti. Naravno, slično kao i danas kod MS Worda nasuprot LaTeXu, bit će ključno da sustavi imaju jasno i intuitivno grafičko sučelje, jer imam dojam da će, iz nekog meni ne baš jasnog razloga, 'goli' programski kod uvijek biti nešto što uzrokuje distancu kod ljudi, bez obzira koliko bili tehno entuzijastični.

Svjedočimo konstantnim raspravama i 'sukobima' tech giganata kad je riječ o AI-ju, od prednosti te tehnologije do opasnosti za čovječanstvo. Kako vi na to gledate – što je generativni AI donio društvu u godinu dana, koliko je prisutan ChatGPT i otkako druge tvrtke predstavljaju svoje jezične modele?

Otkada je nastala umjetna inteligencija (za mene se to dogodilo 1943. na odsjeku za filozofiju Sveučilišta u Chicagu), ona se gledala vrlo jednostrano, kao artefakt, kao stroj. 'Što nam omogućava AI', pitanje je koje je duboko ukorijenjeno u tom mindsetu. No taj je pogled, po mome mišljenju, pogrešan. Možemo ga malo preformulirati: Što nam daje ChatGPT? Najbolji je primjer to da studenti mogu vrlo brzo 'napisati' neki dosadan seminar, recimo o Bašćanskoj ploči. Takav seminar gotov je u nekoliko sekundi i studentu se puno vremena oslobodi da se bavi bitnijim stvarima poput bingeanja Netflixa. Je li to nekorektno? Kontroverzno, ali mislim da nije.

Danas, naprimjer, ne gledamo na korištenje kalkulatora u ekonomiji kao 'varanje', nego je zbog toga ekonomija skočila tri stepenice više. Zato što studenti mogu koristiti kalkulatore odgovori na ispitima bolji su i kreativniji, a ekonomija se otvara tome da bude puno više od pukog računovodstva. Naravno, pitanja na ispitima također su se morala razviti u bolja i suvremenija, ali i ona teža koja traže kreativnost. I u tome leži odgovor: umjetna inteligencija tjera nas da revidiramo ono što smatramo važnim, i ta revizija upravo čini taj veliki civilizacijski napredak usvajanjem AI-ja kao neke nove vrste kalkulatora.

Kao i kod kalkulatora, taj napredak nije tehnološki, nego prvenstveno ljudski, jer sada više seminari koje ChatGPT može napisati (a može dosta toga napisati) jednostavno više nisu dovoljno dobri. U sljedećih deset godina svi će seminari morati imati onu kvalitetu koju su prije dvadeset godina imali znanstveni radovi, i to zbog ChatGPT-ja. To je napredak, a sve veća težina zadatka jest cijena napretka i u konačnici ona sila koja će vratiti ravnotežu u obrazovnu strukturu stanovništva, kao i usmjeriti neke ljude na neka deficitarna zanimanja.

Koliko se brzo danas takvi generativni AI chatbotovi i sustavi razvijaju? Je li to dobro?

Dobro je što se razvijaju presporo da bi bili opasni. Prvi GAN-ovi bili su jako opasni, kao i prva pojava programa tipa Photoshopa, no sada su ljudi prihvatili to da video ne garantira autentičnost, slično kako su 90-ih prihvatili to da slika ne garantira autentičnost.

Ima jedna epizoda serije 'Star Trek Next Generation', koja se zove 'Darmok', a divno ilustrira budućnost. Ljudski će jezik aktivno stvarati načine da ostane ljudski, lako razlučiv od strojnog, i tu se može očekivati smanjivanje ostenzivnih i referencijalnih elemenata, ali i ad nauseam ponavljanih plitkih metafora.

Pomak prema indirektnom jeziku s dubokim kulturološkim referencama, koje se stvaraju ad hoc, također će vratiti važnost književnom i općem obrazovanju kao osnovi za stvaranje tog novog jezika. Da se zadržimo na ranije spomenutoj seriji, izrazi koji će se koristiti bit će, naprimjer, 'danas sam poput Picarda na Risi' te će ljudi iznova cijeniti sve finese utkane u tu referencu.

Tko su danas vodeće tvrtke i 'igrači' u AI utrci?

Vodeće tvrtke u AI-ju one su koje imaju puno podataka, ali i ljude kojima je jedini posao analizirati te podatke. Time bi se mogao dobiti dojam da su podaci vrlo bitni i prijeko potrebni za 'budućnost tvrtke', no to nije tako jednostavno.

Prije pet godina sablaznio sam skupinu tehno-ekono entuzijasta u kariranim košuljama te s najnovijim modelima iPhonea u rukama kad sam na jednoj konferenciji, nakon što sam po n-ti put čuo mantru 'podaci su nova nafta' (data is the new oil) rekao da su podaci novi otpad ('smeće'). Odmah sam dodao da to tvrdim jer podaci imaju vrijednost jedino ako ih ima puno i ako su dobro sortirani, a u protivnom postaju problem.

Kako godine prolaze, tako mi se sve više sviđa taj pogled i danas bih samo dodao da, budući da količina podataka u svim tvrtkama raste, vidjet će se sve više i više razlika i potencijal onih koji marljivo te podatke već sada čiste i sortiraju (i to dok još ne vide pravi ekonomski razlog) te onih koji ih jednostavno deponiraju negdje u neko 'jezero' (vjerovali ili ne, ali u big data zajednici za taj tip nemarne 'pohrane' postoji i naziv data lakes, čime se metafora lijepo nastavlja).

Nakon 'drame' u OpenAI-ju pojačala se već užarena AI utrka. Razmišljaju li tvrtke više o profitu, a manje o utjecaju AI-ja? Moraju li danas tvrtke koristiti AI ako žele opstati?

AI utrka bila je tu cijelo vrijeme, samo nije bila medijski popraćena kao danas. Kao i svaka poslovna tehnologija, tako i umjetna inteligencija nije ključ uspjeha u poslovanju i nikada to neće ni biti, ali će zato nekorištenje umjetne inteligencije vjerojatno biti recept za propast u skorijoj budućnosti.

Umjetna inteligencija imat će sličnu ulogu kao i većina tehnologije, poput baza podataka 2000-ih. Nijedna firma nije 'pobijedila' na tržištu zato što je digitalizirala poslovanje korištenjem baza, ali propale su sve one koje to nisu napravile.

Govorilo se i o općoj umjetnoj inteligenciji. O čemu se radi i koliko bi, prema procjenama, trebalo proći do pojave AGI-ja?

Klasična definicija ide preko Turingova testa i glasi da je opća umjetna inteligencija računalni sustav koji u petominutnom razgovoru može prevariti sugovornika da misli da razgovara s čovjekom. Tu se lako uočava koliko konceptualnih rupa ima ta definicija. Ako ignoriramo sve nedostatke te definicije, onda bih rekao da AGI već postoji i postojao je od 70-ih (sustav Eliza). No ako se početna definicija krene popravljati, što je daleko teže nego što djeluje i predstavlja pravi posao za filozofe, onda ovisno o novoj definiciji treba utvrditi je li tražena tehnološka razina dosegnuta ili nije. U svakom slučaju, teže će biti pronaći dobru i izdržljivu definiciju nego lošu definiciju opće umjetne inteligencije tehnološki srušiti nekim novim sustavom.

Srodno pitanje, ali puno preciznije, jest pitanje takozvane nadljudske inteligencije. To je sustav umjetne inteligencije koji je bolji od svih ljudi na svijetu u nekom zadatku. Ako je zadatak igranje šaha, očito je što to znači. Takvi su sustavi impresivni kada rade samo jednu stvar, ali ljudskom oku djeluju kao strogo specijalizirani strojevi. Pomak prema općenitosti djeluje kao pomak prema 'inteligenciji'. Ta se istraživanja nazivaju zero shot learning i, po meni, tvore jezgru neke buduće nadljudske inteligencije koja ima tu crtu univerzalnosti koju očekujemo kada govorimo o 'općoj' umjetnoj inteligenciji.

Koristite li u poslovnom i privatnom životu AI, konkretno jezične modele poput ChatGPT-ja? Potičete li i studente na to?

Ne volim upotrebljavati AI ni platforme i proizvode koji ga obilno i nepotrebno koriste. Razlog tome jest što znam kako radi i za mene tu nema čarolije. Ono što se dogodi kada koristite takve sustave jest da morate nalaziti zaobilazne načine da natjerate aplikaciju ili platformu da rade ono što vi želite. Zato što netko u njih nasilno gura AI, koji će umjesto vas birati sadržaj, umjesto da korisnik sam odluči, razlog je zbog kojeg su ti sustavi jako naporni.

Mislim da je kod umjetne inteligencije najzanimljiviji dio njezin razvoj i filozofski problemi koji se tijekom razvoja vrlo eksplicitno javljaju, o čemu učim studente. Također ih na vrlo eksplicitan način učim da AI sustavi nisu ljudi ni živa bića, nego glorificirani tosteri i da ih tako treba tretirati. Čarolija AI-ja direktno je povezana s neznanjem o njihovom funkcioniranju.

Jezični modeli jesu zanimljivi, ali je daleko zanimljivije graditi bolje modele nego ih koristiti. Naravno, ono što radimo nikad neće biti toliko dobro kao BERT-ovi ili GPT-jevi, ali kao i sve u znanosti, radimo na malim modelima i tek ako se tamo nešto pokaže kao dobro, objavimo i gledamo hoće li znanstvena zajednica implementirati to u velike modele.

Kako uopće znati smijemo li i u kojoj mjeri koristiti generativne jezične modele?

Pomalo neobično pitanje. Zvuči kao onaj tip pitanja koje etičari obožavaju, ali kojih se grozim. Generativni modeli su tu, oni postoje i u tom ih vidu možemo slobodno koristiti. No pravo je pitanje što će nam oni u životu, odnosno koji problem mislimo riješiti pomoću njih? Kao što su nama dostupni, dostupni su i drugima, pa time ne možemo uzeti neki njihov rezultat i prezentirati ga kao svoj te dobiti neku prednost.

Poslovne primjene također su vrlo limitirane. Nama je 2016. jedna strana banka pristupila da im napravimo chatbot pomoću kojeg bi njihovi klijenti mogli 'na brzinu' raditi transakcije. Mislim da je svima osim njih bilo očito koliko je to loša ideja jer, što se novca tiče, ljudi žele preciznost i sigurnost, a ne brzinu.

Na skroz drugom kraju spektra imate pak ideju da bi u starim društvima poput Japana sustavi poput ChatGPT-ja mogli biti primijenjeni u nekom vidu palijativne skrbi. Dakle stare usamljene sugrađane trebalo bi usmjeriti da komuniciraju sa strojem i to bi tobože zamijenilo njihovu potrebu za razgovorom s ljudima? To je po meni primjer potpunog promašaja jer ti ljudi žele razgovor zbog ljudskog elementa, a ne zbog (zanimljivog ili nezanimljivog) sadržaja koji razgovor donosi, što također čini velike jezične modele beskorisnima.

Ako uzmemo financije kao primjer područja u kojem je precizan sadržaj sve, a jezični medij (npr. ljepota izričaja) nebitan, tu su veliki jezični modeli beskorisni. Ako gledamo drugi kraj spektra, palijativnu skrb, gdje je ljudima sadržaj nebitan, a ljudskost sugovornika sve, i tu su također veliki jezični modeli beskorisni. Ustvari, što više razmišljate, to je manje jasno gdje bi veliki jezični modeli, pogrdno nazvani 'stohastičke papige', bili stvarno korisni. Ima nekoliko područja u kojima nude jako puno, poput krizne komunikacije ili obavještajne analitike, ali tih je mjesta jako malo i često su limitirana na državne službe, što pak gotovo isključuje poslovne prilike.

Što nam sve donosi EU-ov Zakon o umjetnoj inteligenciji i je li regulacija potrebna? U petak navečer je postignut privremeni dogovor o ključnim pravilima Europske unije koja reguliraju korištenje umjetne inteligencije, uključujući vladinu upotrebu umjetne inteligencije u biometrijskom nadzoru i kako regulirati sustave umjetne inteligencije poput ChatGPT-a.

Kao politički libertarijanac, načelno se protivim novim regulacijama i to najviše zato što, kao i svi libertarijanci, ne vjerujem da država ili neki međunarodni regulator može učinkovito regulirati pojave koje se silno trudi regulirati. Dobar je primjer toga GDPR i pitanje spola. Ako imam bazu imena klijenata, meni spol uopće ne treba kao zaseban podatak.

Banalan klasifikator koji će sva imena koja završavaju na 'a' smatrati ženskima, a sva ostala muškima, ima točnost od preko 90 posto. Ako ručno isključimo imena 'Luka', 'Nikola' i 'Ivica', točnost raste na preko 95 posto. Zamislimo da tako obrađene podatke koristim za predikciju potrošačkih navika. Tehnički gledano, nisam prekršio GDPR jer nisam ni koristio podatke o spolu niti sam radio predikcije vezane uz spol kao spol. 'Sve' što sam napravio jest da sam zaključio da je vjerojatnije da će osoba kupiti neki proizvod ako joj ime završava na 'a'.

Očito je koliko takve stvari mogu biti diskriminatorne, ali to nije najvažniji uvid ovdje. Najvažnije je shvatiti da bilo koja zakonska zaštita mora biti kategorička, jasno propisana, a praktične primjene mogu vrlo lako živjeti u svijetu nesavršenih, ali iskoristivih korelacija koje nijedan zakon ne može spriječiti. Jedina prava zaštita svih nas rast je svjesnosti korisnika koji će biti spremni bojkotirati ono što percipiraju kao nemoralno ponašanje tvrtki.

Dakle edukacija o AI-ju u srednjim školama. Taj pomak shvaćanja korisnika o svojoj ulozi posebno je važan jer će tvrtke tada, u strahu od hirovitosti, iracionalnosti i društvenih akcija, početi stvarno dobro razmišljati žele li uopće skupljati one podatke koji im ne trebaju (nisu asset), a mogu možda postati jako problematični na 'nepredvidljiv' način (liability).

U čemu nas AI - konkretno u kojim poslovima - nikad neće moći zamijeniti?

Ima jako puno poslova u kojima nas AI neće moći zamijeniti. Društvo je u globalu previše oduševljeno novim stvarima, a premalo gleda imamo li već tako nešto, pa je tako i s tim strahom. Još je 1989. Hans Moravec istraživao to pitanje na primjeru umjetne inteligencije iz 70-ih i zaključio da je AI zamijenio neke teže (blue collar) poslove, poput radnika u tvornicama automobila, dok je druge poslove, poput radnika na gradilištima, ostavio netaknutima.

Isto tako, neki ugodniji poslovi (white collar) u potpunosti su nestali, poput bankara na šalteru koji isplaćuju novac i bilježe promjene na računima (bank tellers), dok su drugi, poput odvjetnika, ostali. Može se očekivati da će slično biti i sada jer, naprimjer, umjetna inteligencija puno bolje 'čita' rendgenske snimke od radiologa i daje bolje pravne savjete od pravnika.

S druge strane imate primjere težih poslova koji i dalje odolijevaju, poput ranije spomenutih gradilišta. S treće strane imate cijeli niz poslova gdje već sada postoji jednostavna tehnologija, ali ipak biramo čovjeka, poput masera ili dadilja, ili poslova gdje nam ni ne pada na pamet implementirati tehnološka rješenja jer nam se ideja tehnologije, pa i umjetne inteligencije, u tim područjima uopće ne sviđa, poput frizera.

Kakvi će sve novi poslovi i radna mjesta nastati razvojem AI-ja i novih tehnologija?

Teško je to reći, ali je gotovo sigurno da će biti lakši i ugodniji nego stari poslovi, to je u principu tako uvijek bilo do sada. Nadam se da će budući poslovi biti drukčiji od dosadašnjih po tome što će biti manje fokusirani na osmerosatno sjedenje i sve ostale ritualizirane oblike poslovne prakse s početka prošlog stoljeća, koji se protivno svim idejama zdravog razuma i dalje čuvaju, jer tu stvarno napredak tehnologije nudi puno mogućnosti za poboljšanje kvalitete poslovnog okruženja za velik broj profesija.