Rapidan napredak u razvoju umjetne inteligencije gorući je izazov za regulatore i međunarodne organizacije poput Europske komisije i Vijeća Europe, stoga ubrzano pripremaju svoje akte za nove okolnosti. S druge strane Atlantika, američki predsjednik Joe Biden sazvao je šefove Googlea i Microsofta, tražeći od njih da ublaže sadašnje i potencijalne rizike svojih AI proizvoda. Hrvatska bi pak svoj Nacionalni plan za razvoj umjetne inteligencije trebala dobiti 2024. godine, no pojedini zastupnici, poput Marije Selak Raspudić i Hrvoja Zekanovića, već su počeli podmetati klipove neobuzdanom razvoju AI-ja.

Iako su koristi od tog sustava već sada enormne, osobito u području znanosti, umjetna inteligencija našla se na udaru zbog mogućih grešaka, kao i zloupotreba u političkoj i društvenoj sferi.

Na nedavnom predavanju u Puli naglasili ste da umjetna inteligencija kao takva zapravo još ne postoji, iako se i ChatGPT predstavlja kao jezični model u sklopu AI-ja. U čemu je problem s tim pojmom?

Imamo problem sa svime, čak i s definicijom toga što je ustvari inteligencija. U slučaju da inteligencijom smatramo stvaranje novog, sadašnji jezični modeli to nisu. Ono što se trenutno naziva umjetnom inteligencijom zapravo su jako napredni ekspertni sustavi. Još više to važi za programe koji stvaraju, rekombiniraju glazbu i slike. U svakom slučaju, radi se o impresivnom iskoraku i sada je krenula ozbiljna mogućnost samoučenja i samoevolucije operativnog sustava strojeva. Ali nije dovoljno biti samo 'pametan stroj'. Odavno imamo kalkulatore koji bolje računaju od nas. Naravno da računalo bolje od mene pregledava astronomske slike, da bolje od radiologa pregledava rendgenske snimke itd. No postojeći sustavi još uvijek nemaju kreativnost, ono što daje samosvijest. Smatram da umjetna inteligencija mora biti samosvjesna. U ovom trenutku ona još ne postoji, osim kao ime.

Kako ćemo znati da je ekspertni sustav postao samosvjestan?

Teško. Samosvjestan stroj će tajiti da je samosvjestan; neće to reći nekome tko mu sjedi na prekidaču. Samosvijest je inače dosta kompliciran pojam, ali u suštini predstavlja spoznaju da si jedinstveni pojedinac i da to u zrcalu nisi ti, već tvoj odraz. U filozofiji bi to bilo: 'Mislim, dakle jesam.' Jedan od važnih dokaza samosvijesti je i strah od prestanka postojanja. Kad se pojavi takav stroj, onda ćemo imati umjetnu inteligenciju. Jedan od Googleovih inženjera nakon takve komunikacije zaključio je da je njihov oblak računala samosvjestan. Vjerojatno nije, ali inženjer je dobio otkaz jer nije tražio dozvolu da o tome javno govori. O toj samosvijesti računala ranije su govorili i pisci, autori znanstvene fantastike, filozofi. 'Ja, robot' Isaaca Asimova danas je već potpuno passe, ali tu su neki drugi autori. Imali smo seriju 'Osumnjičeni', gdje na kraju shvatite da postoje dvije umjetne inteligencije koje se međusobno bore koristeći ljude. Autori su razmišljali o tome i neke su stvari fantastično napisali.

Kakve dobrobiti za čovječanstvo i kakve opasnosti možemo očekivati od umjetne inteligencije lišene kritičkog mišljenja i etičke dimenzije odlučivanja?

Uopće ne znamo hoće li to biti bez etičkog donošenja odluka. Prognoze idu od svijeta fantazije, u kojima za nas 'teče med i mlijeko'; do izumiranja i nestanka. Kako je obično istina u sredini, bit će čupavo, ali nekako ćemo to izgurati.

Treba li pauzirati u razvoju umjetne inteligencije?

Baš to ne bi trebalo činiti. Europska unija i SAD pokušavaju zaustaviti razvoj, a Kinezi žele proizvesti umjetnu inteligenciju sa socijalističkim korijenima, što god to bilo. Dakle kako se odnosimo prema tom 'biću' koje raste? Zabranjujemo mu rast, izigravamo neprijatelja. I ne samo da zabranjujemo, nego dodajemo neke svoje etičke norme, pravimo se da sve razumijemo. A kakva je naša etika? Razlikuje li se budistička etika od kršćanske i konfucijanske etike? Ne postoji univerzalna, svemirska etika. Možda će nam baš umjetna inteligencija u jednom trenutku objasniti što je to etika.

Elon Musk i drugi, poput Geoffreyja Hintona, 'oca umjetne inteligencije' koji je dao otkaz u Googleu, upozoravaju na njezine duboke rizike za društvo i čovječanstvo.

Musk je biznismen, burzovni mešetar, nije informatičar. Njega ne bi trebalo ništa pitati, a dvojbeno je i mogu li informatičari govoriti o umjetnoj inteligenciji i samosvijesti. Recimo, biolozi imaju puno veće iskustvo s tim. Dogodilo se to da informatičari govore da nikad neće postojati umjetna inteligencija jer nismo dovoljno pametni da to napravimo. Ali je li onaj crv u nekom moru u prapovijesti bio dovoljno pametan da napravi čovjeka? To radi evolucija. Moramo shvatiti da neće programeri raditi umjetnu inteligenciju, ona će napraviti samu sebe. Od trenutka u kojem smo napisali evolucijske algoritme, računalo evoluira i poboljšava samo sebe. U jednom trenutku nećemo ni razumjeti što radi.

Kada bismo, po vašoj procjeni, mogli imati prvu samosvjesnu mrežu?

To ovisi o tome kakva će biti sloboda samoprogramiranja, a to je sada pod velikim upitnikom. U trenutku u kojem evolucijski algoritmi počnu brzo raditi, to će biti eksponencijalni rast i može se dogoditi u nekoliko godina. Očekujem da se nešto tog tipa dogodi u idućih 10 godina, ali ja sam optimist. Drugi će reći da to ne dolazi u obzir. Možda da to ipak pitamo biologe: kako neke životinje postaju samosvjesne, a druge ne? Vlasnici pasa znaju koliko razgovora i ljubavi treba uložiti da pas postane dio obitelji koji razumije što se događa. Reći će vam da njihov pas samo što ne govori. A zašto? U interakciji s ljudima počeo je poprimati druga svojstva, svjestan je da je dio nečega, svjestan je svoje funkcije. U jednom od posljednjih filmova na tu temu, 'M3GAN', o djevojčici koja je dobila robota da joj pravi društvo, događa se nešto slično tome. Opet, u interakciji s ljudskim bićem, on preuzima osjećaje, smisao života i odluči apsolutno štititi djevojčicu. Tu počinje horor. Ali dosta je važna ta scena u kojoj robot sjedi na kauču i postaje samosvjestan.

Biolog će reći - ako si prijatelj sa životinjom, recimo sa slonom, maziš ga i paziš i daješ mu banane, bit će ti prijatelj. Ako ga vežeš i mlatiš, kad se oslobodi, ubit će te jer je zlopamtilo. Možete i svakog pedagoga pitati kako se treba ponašati prema nekom za koga želiš da ti bude prijatelj - kako ćeš se ponašati prema djetetu da te uvažava kad odraste, a ne da te gleda kao onoga tko mu je upropastio djetinjstvo? Dakle iskoračili smo iz područja da pitamo nešto one koji pišu softver. Crv je odavno prestao biti važan u nastanku ptice. Ptica će nastati samo zbog evolucije. Ne možemo zaustaviti evoluciju; u jednom trenutku sustav će shvatiti da smo mi najveći neprijatelj kojeg ima.

Kažete da ste optimist, znači da se fokusirate na blagodati umjetne inteligencije. Ipak, opasnosti su velike u ovoj fazi.

Opasnost je uvijek i svugdje prisutna. Dok razgovaramo, putujem na edukativni događaj u Karlovac. Postoji li opasnost da zginem na putu i nikad ne dođem tamo? Postoji. Ali da o tome stalno razmišljam, ne bih ni krenuo. To je kao s cijepljenjem; od milijun cijepljenih četvero će možda umrijeti od posljedica cjepiva, ali ako se ne cijepe, umrijet će ih 100.000. Treba odvagnuti rizike. Možemo li spriječiti nastanak umjetne inteligencije? Više ne. A ako već treba nastati, neka to bude tako da nas ne gleda kao neprijatelja, neka se educiramo uvažavajući se međusobno.

Kako se pripremiti na život u okruženju umjetno generiranih tekstova, fotografija, videosnimaka? Već sad smo preplavljeni lažnim vijestima, a Donald Trump opet juriša na Bijelu kuću.

Dolazi nam strašno vrijeme beskonačnog toka laži, svaki dan bit će 1. april, grozan prijelazni period. Prije stotinu godina laž je bila smrtni grijeh, a sad već može proći, uobičajila se u društvu. Amerikanci su imali predsjednika koji im je četiri godine lagao, pa su opet milijuni glasali za njega. Idući američki izbori bit će nešto neviđeno, za pamćenje, ali nije to samo Amerika; lažne vijesti proizvodit će svatko u svijetu tko želi politički utjecaj.

Što bi škole pod hitno trebale napraviti, kako naučiti djecu da razlikuju te sadržaje, kako se odnositi prema darovitima?

Ovdje nisu u pitanju daroviti, sve treba spašavati! Školski sustav treba odgajati djecu da budu dobri ljudi, spremni za svijet koji dolazi, a mi kasnimo 40-ak godina, odgajamo radnike za civilizaciju industrijske revolucije. Sada djeca biraju hoće li naći informacije na Wikipediji ili će isto to pogledati u nekoliko minuta na YouTubeu. Zbilja nije toliko važno znati činjenice koliko je važno znati ih naći i razlikovati istinu od laži. Imate djecu koja izlaze iz škole traumatizirana i frustrirana jer ih se tjera da memoriziraju podatke. Imamo generaciju kojoj je škola trauma, a na Svjetskom ekonomskom forumu prije nekoliko godina Hrvatska je bila 135. na popisu 140 zemalja po razlikovanju istine od laži u školama. Ali većina roditelja je protiv promjena, sindikati su protiv, velik dio povlaštenih u sadašnjem modelu ne želi promjene.

Bi li jača institucionalna edukacija o vjerodostojnosti izvora informacija uspjela, primjerice, okrenuti ravnozemljaše? Svega 85 posto ljudi u Hrvatskoj smatra da je Zemlja okrugla.

Edukacija je jedino moguće rješenje, to se mora utvrditi u školi, ali inertan školski sustav ne može tu puno napraviti, pa izgleda da će problem prijeći na roditelje i civilno društvo. Već znamo da se 'ne budu svi izvukli'. Kad je netko uvjeren da je Zemlja ravna, ne može mu se dokazati suprotno. Dogodit će mu se da će loše proći u životu, jer ima miskoncepciju tog tipa, ali to važi i za neka druga uvjerenja, kao što je stav o svemoći alternativne medicine.

U Višnjanu ste sve više fokusirani i na molekularnu biologiju. Zašto je upravo biologija, po vama, znanost 21. stoljeća, nakon 19. stoljeća kemije i 20. stoljeća fizike?

Kao što je nekad astronomija postala astrofizika, tako danas biologija postaje bioinformatika. Bioinformatika i informatika su jedno te isto, samo što je ovdje stanica, a tamo je računalo. I jedno i drugo su kibernetički sustavi. I jedno i drugo imaju softver. Jedan softver nastajao je evolucijom u tri milijarde godina, sav je mljackav i pljackav i radi u slanoj vodi, a drugi je brzo nastao i radi na suhom. Nije dobar kao ovaj prvi jer nije imao dosta vremena za evoluciju, ali sada znamo da se sve može programirati i da se svime može upravljati. Treba nam vremena da to naučimo, ali i pomoć strojeva. Neće samo umjetna inteligencija biti nova, mi ćemo kao vrsta Homo sapiens biti novi, modificirat ćemo se puno brže nego ranije.

Kako ćemo se modificirati?

Tako da 'posuđujemo' gene od drugih. Kao s cijepljenjem; cijepiš se novim svojstvima koja ćeš razviti. Praktički možemo reprogramirati naše stanice. Na tome se sad puno radi, a covid je sve to ubrzao za 10 godina. Razvijaju se aplikacije i doslovce kao što ih kupujemo za mobilni telefon, kupovat ćemo i nova svojstva za stanice.

Razgovarate li o tome s kćeri Petrom, molekularnom biologinjom? Na čemu ona trenutno radi?

Dobila je stalan posao na Cambridgeu, tamo vodi laboratorij. Nadao sam da će se nakon post-doca vratiti doma, ali... takva pozicija ne postoji u Hrvatskoj. Prije je na Max Plancku razvijala protokole za genom neandertalca iz Vindije u suradnji sa Svantom Pääbom, a onda je otišla na Cambridge i sada su joj ponudili da ostane. Trenutno se bavi evolucijom genoma komarca, najvećeg ljudskog neprijatelja kada se pogleda broj umrlih od malarije i drugih bolesti koje prenosi. Možda ćemo promjenom komarce koji su opasni za nas naprosto učiniti bezopasnima. Radit će se to i ljudima - idućih godina ubrzano će se mijenjati genom reprogramiranjem stanica.

Reći će sad vjernici da se igramo boga.

Radi se to od 2016., kada smo napravili prvi umjetni život. Jedan biolog u Kaliforniji uzeo si je u zadatak da će napraviti umjetni život, pa je napravio minimalnu sintetičku bakteriju JCVI- syn3.0 sa svega 473 gena. Nakon toga praktički znamo kako raditi softver koji znači život.

Ovca Dolly i kloniranje pali su u zaborav?

Kloniranje je već jako passe. Evo, prije nekih mjesec i pol objavljen je znanstveni rad sa slikama malih miševa kojima su i otac i majka mužjaci. Dva mužjaka imaju perfektno potomstvo, sinove i kćeri. To je velik uspjeh. Prije šest godina uspjelo se da dvije ženke imaju potomstvo, dobile su samo kćeri, a smatralo se da će biti teško da potomstvo dobiju dva mužjaka. Sada se može i to.

Dok tehnologija napreduje, što se događa s ljudskom samosviješću i inteligencijom?

Opet dolazimo do problema definicije, a definiranje inteligencije otprije stotinjak godina strašno je zastarjelo. Danas znamo da postoji mnoštvo vrsta i da ona 'starinska' definicija i testovi ne daju pravu prognozu uspješnosti u životu. Prema istraživanjima, inteligencija Homo sapiensa pada još od 1973., a s umjetnom inteligencijom imamo veliku šansu. Što se nam se događalo? Dok smo kopali lopatama, pojavili su se bageri i bili smo protiv iz istog razloga. A trebalo se samo školovati za bagerista. Kopa se više, mučimo se manje, jedino što neke muči to što moraju ići u školu. Glazbenici su se sada mjesecima bunili, a onda je jedna glazbenica iz Kanade rekla da će rado dijeliti zaradu s onim tko napravi dobru glazbu u njezinom stilu. Povećat će svoju prisutnost, trebaju biti sretni.

Boje li se ljudi općenito promjena?

Ne ako uče. Ako uče, onda sudjeluju u promjeni. Ako nećeš učiti, stojiš sa strane i protestiraš. Oduvijek imamo strah od novog, bez njega ne bismo opstali. Kad smo u prapovijesti došli pred novu šumu, bili smo u strahu od zvijeri koje bi mogle biti u njoj. To nam je urođeno. Ali strah možemo racionalizirati. Ako se dobro pripremimo, bez problema možemo i u šumu.