Profesor Geoffrey Hinton, koji je ove godine dobio Nobelovu nagradu za fiziku za svoj doprinos umjetnoj inteligenciji, procijenio je da postoji 10 posto do 20 posto šanse da AI uzrokuje istrebljenje ljudske vrste u naredna tri desetljeća. Ranije je smatrao da je ta vjerojatnost oko 10 posto.

U razgovoru za program BBC Radio 4’s Today, na pitanje je li promijenio svoju analizu potencijalne AI apokalipse, Hinton je odgovorio: 'Ne baš, 10-20 posto.' Na primjedbu gosta urednika emisije, bivšeg kancelara Sajida Javida, da je 'povećao procjenu', Hinton je kazao: 'Ako išta, da. Vidite, nikada prije nismo morali upravljati nečime inteligentnijim od nas samih.'

Dodao je: 'Koliko primjera poznajete gdje manje inteligentno biće uspješno kontrolira ono inteligentnije? Vrlo malo. Postoji primjer majke i djeteta, gdje je evolucija učinila mnogo da omogući djetetu da kontrolira majku, ali to je gotovo jedini primjer koji mi pada na pamet.'

Hinton, rođen u Londonu, emeritus je profesor na Sveučilištu u Torontu i usporedio je ljudsku inteligenciju s moćnim AI sustavima: 'Volim to zamisliti ovako: zamislite sebe i trogodišnjaka. Mi ćemo biti ti trogodišnjaci.'

Alarmantna brzina razvoja AI-a

AI se grubo može definirati kao računalni sustav koji obavlja zadatke koji obično zahtijevaju ljudsku inteligenciju. Prošle godine, Hinton je dospio na naslovnice nakon što je dao ostavku u Googleu kako bi mogao otvorenije govoriti o rizicima nekontroliranog razvoja AI-a. Izrazio je zabrinutost da bi 'zli akteri' mogli koristiti ovu tehnologiju za nanošenje štete drugima.

Ključna briga zagovornika sigurnosti AI-a jest da bi stvaranje opće umjetne inteligencije – sustava koji su inteligentniji od ljudi – moglo dovesti do egzistencijalne prijetnje, jer bi tehnologija mogla izbjeći ljudsku kontrolu.

Prisjećajući se početaka svog rada na tehnologiji, Hinton je rekao: 'Nisam mislio da ćemo danas biti ovdje gdje smo. Mislio sam da ćemo u nekom trenutku u budućnosti stići do ove točke.' Dodao je: 'Većina stručnjaka u ovom području vjeruje da ćemo u sljedećih 20 godina vjerojatno razviti AI sustave koji su pametniji od ljudi. To je vrlo zastrašujuća pomisao.'

Poziv na regulaciju

Hinton je naglasio kako je brzina razvoja AI-a 'iznimno brza, puno brža nego što sam očekivao' te pozvao vlade da uvedu regulaciju te tehnologije.

'Moj strah je da nevidljiva ruka tržišta neće osigurati našu sigurnost. Prepustiti to motivu profita velikih kompanija nije dovoljno da osiguramo siguran razvoj tehnologije', rekao je Hinton. 'Jedina stvar koja može prisiliti te velike kompanije da ulažu više u sigurnost jest vladina regulacija.'

Hinton je jedan od trojice 'kumova AI-ja' koji su osvojili Turingovu nagradu, ekvivalent Nobelovoj nagradi u području računalnih znanosti, za svoj rad. Međutim, jedan od njih, Yann LeCun, glavni znanstvenik za AI u Meta-i Marka Zuckerberga, umanjio je prijetnju te ustvrdio kako AI 'može spasiti čovječanstvo od izumiranja'.

Za razliku od LeCuna, Hinton ostaje oprezan i apelira na zajednicu i vlade da ozbiljno shvate potencijalne rizike i poduzmu potrebne mjere za osiguranje sigurnosti.