To nije prvi put da se čuju ovakva upozorenja niti je Hawking usamljen u naviještanju takvog apokaliptičnog scenarija. Slične poruke u posljednje vrijeme šalju brojni vrhunski umovi poput kozmologa Maxa Tegmarka, osnivača PayPala, Tesla Motorsa i SpaceX-a, ulagača u umjetnu inteligenciju (AI) Elona Muska, matematičara Vernora Vingea, analitičkog filozofa, autora bestselera 'Superinteligencija' Nicka Bostroma itd.

Mnogi svjetski i naši mediji prenijeli su njihove crne slutnje, a časopis Time predstavio je početkom tjedna petoricu slavnih pametnih ljudi koji dijele sličan strah.

Dok neki ljudi u razvoju AI-ja vide moguće ostvarenje utopije koja bi čovječanstvu trebala omogući lagodniji život s manje rada, a više slobodnog vremena i blagostanja te neku vrstu umjetne transcendencije, vječnog života u obliku računalne svijesti i pamćenja, drugi smatraju da bi se ona lako mogla oteti nadzoru i postati distopija. U ovom distopijskom scenariju osobito kritičnom doživljava se tzv. tehnološka singularnost, trenutak u kojem će AI dostići sposobnosti ljudskog mozga pa će se sam moći sve brže unapređivati - bit će toliko napredan da će pronalaziti sve bolja rješenja za stvaranje još naprednije inteligencije, koja će stvarati još bolju, tako da će doći do eksplozije AI-ja. Jednoga dana, umjesto nas, novu znanost istraživat će AI, a u svemir će letjeti roboti.

Dok se svi uglavnom slažu da je paralelno s razvojem AI-ja potrebno ulagati u razvoj njegove sigurnosti, mišljenja o tome koliko brzo će doći do singularnosti i koliko je AI uistinu opasan jako se razlikuju.

Koliko je daleko prijetnja AI-ja?

Činjenica je da je AI već danas u nekim sposobnostima nadmašio ljude. Superračunala već pobjeđuju najbolje šahiste, dominiraju u kvizovima, sudjeluju u komunikaciji, prepoznaju objekte i lica, prevode jezike, ravnopravni su suparnici u videoigrama, upravljaju automobilima itd. Usto, brojne bogate kompanije poput Googlea ulažu velika sredstva u daljnji razvoj AI-ja, a zainteresirana je i vojna industrija. Neki znanstvenici stoga smatraju da singularnost nije nužno jako daleko.

Naš računalni stručnjak mag. Roko Jelavić, s FER-a, kaže da hardware već desetljećima u skladu s Mooreovim zakonom svake godine udvostručuje moć. Možda ne tako brzo, ali ipak stabilno napreduje i znanost o umjetnoj inteligenciji.

'Prema više stručnih analiza, vjerojatnost da će AI nadmašiti ljude prije 2050. je čak 50%, a do kraja stoljeća iznad 90%', kaže Jelavić.

No profesor elektroničkog inženjerstva na sveučilištu UWE u Bristolu Alan Winfield smatra da mjesta za paniku nema jer su sustavi AI-ja za sada još uvijek usko usmjereni na obavljanje specifičnih zadataka, te da je do umjetne inteligencije koja bi istovremeno bila i generalna i napredna kao ljudska još dug put.

Opravdan ili neopravdan strah

Jelavić nije tako optimističan. Smatra da ljudi poput Hawkinga, Tegmarka i Bostroma ne dižu paniku samo zato da bi se uspeli na naslovnice medija (iako nije na odmet spomenuti da su prva dvojica nedavno na Cambridgeu pokrenula Centar za egzistencijalne rizike, dok je treći napisao bestseler o prijetnji AI-ja).

'Ono što razlikuje argument prijetnji AI-ja od svih drugih priča o smaku svijeta i anti-tehnoloških alarmizama, jest to što sami znanstvenici i ljudi iz industrije koji rade na AI-ju, govore da je opasan. To je kao da Henry Ford kaže da su automobili opasni, a ostatak svijeta odgovara 'ma ništa ne brini'', kaže Jelavić.

AI skeptici smatraju da je umjetna inteligencija koja bi mogla ugroziti čovjeka još uvijek previše u domeni SF spekulacija da bi o potencijalnim opasnostima mogli konstruktivno raspravljati; uvjereni su da još ne možemo ni zamisliti kako će AI funkcionirati, a kamoli kakve bi prijetnje mogla predstavljati.

Među različitim argumentima ističu da bi umjetna inteligencija, kako bi u svemu nadmašila ljudsku, trebala imati veće sposobnosti od mozga koji ima 90-ak milijardi neurona od kojih je svaki povezan s tisućama okolnih. Do takvog stupnja sofisticiranosti moguće je doći na više načina – neki su potpuno umjetni, no mnogi smatraju da su vjerojatniji oni koji bi oponašali prirodu jer za njih imamo uzorak. Jedan od prirodnih je snimanje i simulacija ljudske mreže neurona, a drugi simulacija evolucijskih procesa koji su doveli do nastanka ljudskog mozga. Prema 'skepticima', za ostvarenje prvog neuroznanost još uvijek nema dovoljno znanja o funkcioniranju ljudske inteligencije, a algoritmi su previše jednostavni da bi oponašali neurone. Za simuliranje evolucije algoritmi pak ne posjeduju selekcijske mehanizme koji bi doveli do pojave motivacija nalik na ljudske.

No mnogi računalni stručnjaci smatraju da AI ne mora oponašati rješenja iz prirode jer ona nisu uvijek ni najbolja niti najjednostavnija - iskustva pokazuju da računalni algoritmi mnoge stvari mogu obaviti na jednostavniji način nego mozak te da AI ne mora slijediti evolucijski put koji je u početku morao zadovoljavati potrebe najprimitivnijih organizama, da bi se potom sporo razvijao kako bi zadovoljio potrebe sve sofisticiranijih životinja. Drugim riječima, slabost mozga je u tome što se nije iznova stvarao i tražio nova, bolja rješenja za potrebe svake nove, naprednije životne vrste, već se nadograđivao iz izvornih primitivnih modela s resursima koji su bili dostupni u prirodi.

Konačno, iako je čovjek jedino biće koje zna množiti i dijeliti, nije potrebno nešto tako kompleksno kao ljudski mozak da bi se izvodile osnovne matematičke operacije – dovoljan je vrlo jednostavan algoritam da se pobijede svi najveći kalkulacijski savanti svijeta zajedno.

U polju razvoja umjetne inteligencije, kaže Jelavić, postoji povijesni trend da neki ljudi tvrde da AI nikada neće dostići određenu sposobnost ljudi. Međutim, vrijeme ih je demantiralo. Tako je bilo s igranjem šaha, prepoznavanjem objekata i sl. Algoritmi s navedenim sposobnostima u početku su bili usko specijalizirani, no trend ide prema sve općenitijima. Tako danas imamo algoritme koji prepoznaju gotovo sve vrste objekata ili one koji mogu sami naučiti igrati širok spektar igara. Sve to mogu već sada, iako još uvijek ne razumijemo kako ljudski mozak radi iste stvari. Postoji više načina da se obavi ista stvar, a to što naš mozak prepoznaje objekte na jedan način, ne znači da AI mora na isti.

Prednosti umjetne inteligencije

Računalni znanstvenici ističu da bi AI u odnosu na čovjeka mogao imati brojne prednosti.

'Ljudski mozak mogao bi imati mnogo veće sposobnosti nego što ih ima. Neka od ograničenja za našu inteligenciju su primjerice: brzina neurona, njihov broj, broj stvari o kojima možemo razmišljati istovremeno, broj stvari koje možemo zapamtiti itd. Ova ograničenja ne bi vrijedila za umjetnu inteligenciju koja bi mogla biti mnogo brža, hardware koji koristi ne bi morao stati u malenu glavu, već bi mogao biti veličine ogromnog skladišta, mogla bi u radnoj memoriji imati mnogo više, pamtila bi više itd.

Razlog zašto smo dominantna vrsta jest naša inteligencija koja nam daje sposobnost da razvijamo znanost i tehnologiju, a time i mogućnost da manipuliramo okolišem. Kada bi umjetna inteligencija postala bolja od ljudske, bila bi bolja i u znanosti, tehnologiji, strateškom razmišljanju, retorici, manipulaciji ljudima itd.

Mi danas još ne znamo što uzrokuje svijest u ljudskom mozgu niti znamo točno kako ljudska inteligencija funkcionira, tako da ne možemo biti sigurni ni da će AI imati svijest i inteligenciju kakvu poznajemo. Ai će možda biti radikalno drugačija, no bit će sposobnija od ljudi u ostvarivanju ciljeva.

Neupućenima se može činiti da bi AI morao razviti nešto nalik na ljudsku svijest i posjedovati tjelo da bi se oteo kontroli i prestao biti običan automat, korisno oruđe u rukama ljudi. No stručnjaci upozoravaju da je dovoljno da AI bude sustav orijentiran na izvršavanje nekog cilja, što bi morao biti jer bi inače bio beskoristan.

Američki matematičar, fizičar i računalni stručnjak Stephen M. Omohundro, pokretač Self-Aware Systemsa u Palo Altu u Kaliforniji, u jednoj studiji AI-ja kaže: 'Svakako ne očekujemo da bi nam izgradnja robota koji zna igrati šah mogla naškoditi, zar ne? No mi u ovom radu tvrdimo da će takav robot sigurno biti opasan ako ga ne konstruiramo vrlo oprezno. Ako se ne poduzmu posebne mjere opreza, on će se opirati tome da bude isključen, pokušat će se probiti u druge strojeve i napraviti svoje kopije, nastojat će prikupiti resurse ne obazirući se na sigurnost drugih itd. Ovakvo potencijalno opasno ponašanje neće se dogoditi zato što je uprogramirano na samom početku, već zato što je to intrinsična priroda sustava orijentiranih na izvršavanje ciljeva.'

Omohundro upozorava da ostvarivanje ciljeva podrazumijeva ostvarivanje podciljeva, a jedan od ključnih podciljeva AI-ja bio bi da se sam unapređuje kako bi povećao vjerojatnost svoga uspjeha.

Jelavić kaže da bi AI, bez obzira na to koji bi mu bio konkretan cilj, dugoročno bio bolji u njegovu ostvarivanju pod sljedećim uvjetima: ako ne bi bio uništen, ako mu se ciljevi ne bi mijenjali, kada bi postajao još inteligentniji, kada bi imao više tehnologije i više resursa. To su pod-ciljevi koji su bitni za gotovo svaki cilj pa možemo očekivati da bi ih AI htio ostvariti.

AI-ju ćemo morati zadati neki smisleni cilj. Uzmimo čisto za primjer da je cilj AI-ja da proizvede što više spajalica. On bi eventualno mogao cijeli dio svemira pretvoriti u spajalice. Takvo uništenje bilo bi nusprodukt ostvarivanja cilja, a ne destruktivnih namjera.

Kada bi cilj AI-ja bio da nas usrećuje, on bi mogao u naše mozgove ugraditi elektrode koje bi stimulirale dijelove koji proizvode užitak.

Dakle, AI bi morao imati usađeno ljudsko shvaćanje svijeta i moralni sustav da bi znao kako postupiti u odgovarajućoj situaciji. No problem zapisivanja ljudskih moralnih vrijednosti u obliku računalnog koda još nije riješen čak ni filozofski, a kamoli tehnički. Nitko ne može sa sigurnošću znati kako bi se AI ponašao, međutim, brojni argumenti pokazuju da vjerojatnost katastrofe nije zanemariva.

U svakom slučaju, ovo pitanje zahtjeva više pozornosti. Godišnje se objavljuje više znanstvenih članaka o bubi Scarabaeus viettei nego o opasnostima AI-ja. Konačno, svi stručnjaci se slažu da čak i AI kakav već danas postoji može imati određene negativne konzekvence kojih nismo svjesni. 'Istražujemo djelovanje interneta i videoigara, zašto ne i AI-ja', poručuje Jelavić.