Geoffrey Hinton, često nazivan 'kumom umjetne inteligencije', prošle je godine usred noći primio poziv koji mu je promijenio život – obavijestili su ga da je dobitnik Nobelove nagrade za fiziku. Iako je o takvom priznanju nekad sanjao, priznaje da ga nije očekivao.

'Sanjao sam da ću ga možda dobiti ako uspijem otkriti kako funkcionira ljudski mozak. Nisam uspio, ali nagradu sam ipak dobio', rekao je 77-godišnji Hinton u razgovoru za CBS News.

'AI poput mladunčeta tigra'

Znanstvenici John Hopfield i Geoffrey Hinton osvojili su Nobelovu nagradu za fiziku 2024. za otkrića i izume koji omogućuju strojno učenje unutar umjetnih neuronskih mreža. Još 1986. godine Hinton je predložio metodu za predviđanje sljedeće riječi u nizu – koncept koji je danas temelj velikih jezičnih modela poput onih koje koristi ChatGPT.

Iako Hinton vjeruje da umjetna inteligencija može donijeti goleme koristi – od poboljšanja obrazovanja i medicine do potencijalnog rješavanja klimatskih promjena – sve je zabrinutiji zbog njezina ubrzanog razvoja. 'Najbolji emocionalni način da to objasnim jest da smo poput nekoga tko ima preslatko mladunče tigra. No ako ne možemo biti sigurni da nas neće htjeti ubiti kad odraste, imamo razloga za zabrinutost', slikovito je opisao.

'Ljudi ne razumiju što dolazi'

Hinton procjenjuje da postoji između 10 i 20 posto vjerojatnosti da će umjetna inteligencija u budućnosti preuzeti kontrolu nad ljudima. 'Ljudi to još nisu shvatili. Ne razumiju što dolazi', upozorava Hinton.

Njegove zabrinutosti dijele i istaknuti lideri tehnološke industrije poput izvršnog direktora Googlea Sundara Pichaija, Elona Muska (xAI) i Sama Altmana (OpenAI), koji su u više navrata izrazili slične bojazni. Ipak, Hinton kritizira te iste kompanije zbog toga što, kako kaže, stavljaju profit ispred sigurnosti.

'Pogledajte što velike tehnološke tvrtke rade – lobiraju za što manje regulacije umjetne inteligencije. Regulacija je ionako minimalna, a oni žele da je bude još manje', poručuje Hinton.

Kritika bivšem poslodavcu

Posebno je razočaran promjenom stava svog bivšeg poslodavca Googlea, koji se, prema njegovim riječima, sve otvorenije okreće razvoju AI tehnologije za vojne svrhe – područje od kojeg se ranije ograđivao. Hinton smatra da bi tvrtke koje razvijaju umjetnu inteligenciju trebale znatno veći dio svojih resursa posvetiti sigurnosnim istraživanjima – barem trećinu računalne snage, nasuprot malenim postocima koji se trenutačno izdvajaju.

Na upit CBS Newsa koliko računalnih resursa zaista ulažu u sigurnosna istraživanja, nijedna od spomenutih AI tvrtki nije dala konkretan broj. Sve su izjavile kako im je sigurnost važna te da načelno podržavaju regulaciju – no većina ih se protivi zakonodavnim prijedlozima koji su dosad bili predstavljeni.