Prošlog mjeseca stotine poznatih ljudi u svijetu umjetne inteligencije potpisale su otvoreno pismo u kojem upozoravaju da bi ona mogla jednog dana uništiti čovječanstvo.

'Ublažavanje rizika od izumiranja zbog umjetne inteligencije trebao biti globalni prioritet uz druge rizike na društvenoj razini, kao što su pandemije i nuklearni rat', navedeno je u toj izjavi.

Što bi nas moglo i trebalo zabrinuti? Pogledajmo.

Sve moćniji sustavi, sve veća autonomija

Jednog dana bi tvrtke, vlade ili neovisni istraživači mogli primijeniti moćnu umjetnu inteligenciju za sve i svašta, od poslovanja do ratovanja. Ti bi sustavi mogli raditi stvari koje mi ne želimo da rade. A kad bi ih ljudi pokušali ometati ili isključiti, mogli bi se oduprijeti ili kopirati kako bi mogli nastaviti s radom.

Često se kao primjer navodi mogući scenarij u kojem bi, ako tražite od stroja da stvori što je moguće više spajalica, on bez nadzora i ograničenja mogao nastaviti raditi to sve dok i mi ljudi ne završimo u tvornicama spajalica.

Tvrtke bi mogle - a vjerojatno i hoće - dati sustavima umjetne inteligencije sve veću autonomiju i povezivanje s vitalnom infrastrukturom, uključujući električne mreže, burze kapitala i vojno naoružanje.

Tu bi mogli krenuti problemi. A uspon ChatGPT-ja i sličnih alata pokazao je koliko brzo razvoj umjetne inteligencije može ići.

Kritičari upozoravaju da bi nam sve samostalniji strojevi mogli u nekom trenutku preoteti donošenje odluka, razmišljanje i upravljanje.

Ali ima i onih kojima je takav scenarij smiješan ili malo vjerojatan.

Zasad još dalek scenarij

Zasad još nema znakova da je umjetna inteligencija doista blizu realizacije takvog scenarija, iako sustavi koji počivaju na njoj ubrzano napreduju.

Jedan od njih je, primjerice, AutoGPT, sustav koji bi mogao ponuditi načine realizacije ciljeva kao što su, recimo, 'pokrenuti tvrtku' ili 'zaraditi nešto novca', pogotovo ako je povezan s drugim internetskim servisima.

Može također generirati računalne programe. Dobije li pristup računalnom poslužitelju, mogao bi ih i pokrenuti, pa i - teoretski gledano - učiniti još puno toga samostalno online: dohvaćati informacije, koristiti aplikacije, stvarati nove aplikacije, čak se i poboljšati.

To zasad još nije sadašnjost, odnosno realno stanje stvari. No s vremenom bi moglo postati stvarnost, a takvim se mogućnostima mogu poslužiti i ljudi koji nisu dobronamjerni.

Već su naučili lagati

Sustavi poput ChatGPT-ja izgrađeni su na neuronskim mrežama, matematičkim sustavima koji mogu učiti vještine analizom podataka. Otprilike 2018. godine tvrtke poput Googlea i OpenAI-ja počele su graditi neuronske mreže koje su učile iz ogromnih količina digitalnog teksta prikupljenog s interneta.

Precizirajući uzorke u svim tim podacima, ovi sustavi uče samostalno generirati pisanje, uključujući novinske članke, pjesme, računalne programe, čak i ljudski razgovor.

Budući da uče iz više podataka nego što to čak i njihovi kreatori mogu savladati, ovi sustavi također pokazuju neočekivano ponašanje. Istraživači su nedavno pokazali da je jedan sustav uspio angažirati čovjeka na mreži da porazi captcha test. Kad je čovjek upitao je li to 'robot', sustav je lagao i rekao da je to osoba s oštećenjem vida.

Tko upozorava na moguće opasnosti?

Dio stručnjaka upozorava da bi sve moćniji sustavi mogli preuzeti i sve više loših navika. Među njima su i sljedbenici pisca Eliezera Yudkowskyjeg, a koji od početka dvijetisućitih upozorava na to da bi nam umjetna inteligencija mogla doći glave.

Nemali broj njih ima utjecaja na akademsku zajednicu, think tankove i tehnološku industriju. Njegovi radovi odigrali su ključnu ulogu u stvaranju OpenAI-ja i DeepMinda, laboratorija umjetne inteligencije koji je Google kupio 2014.

Dvije organizacije koje su nedavno objavile otvorena pisma upozoravajući na rizike od umjetne inteligencije - Centar za A.I. Institut za sigurnost i budućnost života - usko su povezane s ovim pokretom.

Nedavna upozorenja također su došla od pionira istraživanja i industrijskih lidera poput Elona Muska, Sama Altmana, izvršnog direktora OpenAI-ja, i Demisa Hassabisa, koji je pomogao u osnivanju DeepMinda i sada nadzire novi laboratorij umjetne inteligencije u kojem su istraživači iz DeepMinda i Googlea.

Pisma upozorenja potpisali su i dr. Yoshua Bengio te Geoffrey Hinton, koji je nedavno odstupio s mjesta izvršnog direktora i istraživača u Googleu.

Njih su dvojica 2018. godine dobila Turingovu nagradu za svoj rad na neuronskim mrežama, piše New York Times.