Samo ovog tjedna više od 300 čelnika IT industrije objavilo je pismo u kojem upozoravaju da bi umjetna inteligencija mogla dovesti do izumiranja ljudi i da bi je trebalo razmotriti s ozbiljnošću kojom pristupamo pandemijama i nuklearnom ratu.

Sudnji dan do kojeg bi dovela umjetna inteligencija ipak ni blizu ne bi izgledao kao u znanstvenofantastičnim filmovima. Umjesto toga, propast društva mogla bi se dogoditi prilično polako, upozoravaju stručnjaci.

Jesmo li na putu propasti?

‘Mislim da se neće dogoditi da umjetna inteligencija postane zla ili da je ulovi neka vrsta zlonamjerne želje’, rekla je za Guardian Jessica Newman, direktorica Sigurnosne inicijative za umjetnu inteligenciju kalifornijskog Sveučilišta Berkeley.

‘Opasnost leži u nečem mnogo jednostavnijem, a to je da ljudi mogu programirati umjetnu inteligenciju da čini štetne stvari ili da na kraju uzrokujemo štetu integriranjem inherentno netočnih sustava umjetne inteligencije u sve više domena društva’, dodala je.

Naravno, to ne znači da ne bismo trebali biti zabrinuti. Čak i ako su scenariji uništenja čovječanstva malo vjerojatni, moćna umjetna inteligencija ima sposobnost destabilizirati civilizacije u obliku eskalacije dezinformacija, manipulacije ljudima i velike transformacije na tržištima rada zbog polaganog preuzimanja poslova.

Tehnologije umjetne inteligencije prisutne su desetljećima, ali brzina kojom su modeli učenja jezika poput ChatGPT-ja ušli u mainstream pojačala je dugogodišnju zabrinutost. U međuvremenu su tehnološke tvrtke ušle u svojevrsnu utrku u ‘naoružanju’, žureći implementirati je u svoje proizvode kako bi se natjecale jedna s drugom, stvarajući savršenu oluju, rekla je Newman.

‘Izuzetno sam zabrinuta zbog puta kojim idemo’, rekla je. ‘Nalazimo se u posebno opasnom trenutku za AI jer su sustavi na mjestu na kojem se čine impresivnima, ali su još uvijek šokantno neprecizni i imaju inherentne ranjivosti’, dodala je Newman.

Dezinformacije ubrzavaju eroziju istine

Takozvana AI revolucija je u tijeku već neko vrijeme i to na mnogo načina. Strojno učenje podupire algoritme koji oblikuju naše sadržaje na društvenim mrežama, tehnologiju koja je okrivljena za održavanje rodne pristranosti, raspirivanje podjela i poticanje političkih nemira.

Stručnjaci upozoravaju da će se ti neriješeni problemi samo pojačati kako modeli umjetne inteligencije budu uzimali maha. Najgori mogući scenariji mogli bi uključivati narušavanje našeg razumijevanja istine i valjanih informacija, što bi dovelo do novih pobuna temeljenih na neistinama, poput napada na američki Kapitol 6. siječnja. Stručnjaci upozoravaju da bi porast pogrešnih i dezinformacija mogao izazvati daljnja previranja, pa čak i ratove, kao što je to bio slučaj s Vladimirom Putinom.

‘Moglo bi se tvrditi da je slom društvenih medija naš prvi susret sa stvarno glupom umjetnom inteligencijom - jer su sustavi preporuke zapravo samo jednostavni modeli strojnog učenja’, rekao je Peter Wang, izvršni direktor i suosnivač platforme za podatkovnu znanost Anaconda.

ChatGPT pati od 'halucinacije'

Veliki jezični modeli poput ChatGPT-ja skloni su fenomenu zvanom ‘halucinacije’, u kojem se ponavljaju izmišljene ili lažne informacije. Studija agencije za praćenje vjerodostojnosti novinarstva NewsGuard identificirala je desetke internetskih stranica s ‘vijestima’ koje je u potpunosti napisala umjetna inteligencija, od kojih su mnoge sadržavale upravo takve netočnosti.

Takve bi sustave mogli koristiti neki akteri za namjerno širenje dezinformacija u velikim razmjerima, rekli su Gordon Crovitz i Steven Brill, suizvršni direktori NewsGuarda.

‘Imate zlonamjerne aktere koji mogu generirati lažne priče i zatim koristiti sustav kao multiplikator sile za njihovo širenje u velikim razmjerima’, rekao je Crovitz. ‘Postoje ljudi koji kažu da se opasnosti umjetne inteligencije preuveličavaju, ali vijesti imaju nevjerojatan utjecaj u svijetu’, dodao je.

Nedavni primjeri bili su u rasponu od benignih, poput slike Pape u ‘izlizanoj jakni’ koju je generirala umjetna inteligencija, do krivotvorina s potencijalno strašnijim posljedicama, poput videa ukrajinskog predsjednika Volodimira Zelenskog, generiranog umjetnom inteligencijom, u kojem navodno najavljuje predaju u travnju 2022.

Dok većina stručnjaka kaže da su dezinformacije najneposrednija i najraširenija briga, traje rasprava i o tome u kojoj bi mjeri ova tehnologija mogla negativno utjecati na misli ili ponašanje korisnika.

Negativne strane umjetne inteligencije

Ta se zabrinutost već odvija na tragične načine, primjerice muškarac u Belgiji izvršio je samoubojstvo nakon što ga je chatbot navodno potaknuo da se ubije, a prijavljeni su i drugi alarmantni incidenti, uključujući chatbota koji je jednom korisniku govorio da ostavi svog partnera, a drugi je navodno govorio korisnicima s poremećajima prehrane da smršave.

Chatbotovi će, prema svom dizajnu, vjerojatno stvoriti više povjerenja u široj populaciji zbog njihova načina konverzacije s ljudima, rekao je Newman.

Ne strahuje se, dakle, da će chatbotovi bazirani na umjetnoj inteligenciji steći razum i prestići svoje korisnike, već da njihov programirani jezik može manipulirati ljudima tako da uzrokuje štetu. To je posebno zabrinjavajuće zbog jezičnih sustava koji rade na modelu profita od oglašavanja, rekao je Newman, jer nastoje manipulirati ponašanjem korisnika i zadržati ih na korištenju platforme što je duže moguće.

Ono što brine stručnjake je činjenica da će digitalna automatizacija preuzeti velik broj poslova ljudi. Istraživanja se razlikuju, ali neke studije zaključuju da bi umjetna inteligencija mogla zamijeniti ekvivalent od 85 milijuna radnih mjesta diljem svijeta do 2025., a čak i više od 300 milijuna dugoročno.

Industrije na koje bi mogla utjecati umjetna inteligencija su brojne, mogli bi biti pogođeni svi, od scenarista do podatkovnih znanstvenika. Štoviše, umjetna inteligencija uspjela je položiti pravosudni ispit sa sličnim rezultatima kao odvjetnici te odgovoriti na zdravstvena pitanja ponekad bolje i od liječnika.

Peter Wang, ranije spomenuti izvršni direktor i suosnivač platforme za podatkovnu znanost Anaconda, upozorava da su masovna otpuštanja vrlo blizu te naglašava da su brojni poslovi u opasnosti.

Što i kako dalje?

Unatoč sve većoj zabrinutosti zbog negativnog utjecaja tehnologije i društvenih medija, u SAD-u je vrlo malo učinjeno da se to regulira. Stručnjaci se boje da s umjetnom inteligencijom neće biti ništa drugačije.

‘Jedan od razloga zbog kojih su mnogi od nas zabrinuti u vezi s uvođenjem umjetne inteligencije je taj što smo u posljednjih 40 godina kao društvo u osnovi odustali od stvarnog reguliranja tehnologije’, rekao je Wang.

Ipak, zakonodavci su proteklih mjeseci poduzeli napore da se to regulira, a Kongres je pozvao izvršnog direktora Open AI-ja, Sama Altmana, da svjedoči o zaštitnim mjerama koje bi trebalo primijeniti. Stručnjaci su ohrabreni takvim potezima, ali je potrebno učiniti više da bi se stvorili zajednički protokoli za tu tehnologiju i njezino korištenje.

Iako su štetnosti umjetne inteligencije na prvom mjestu za većinu ljudi u industriji, ne zamišljaju svi takve kataklizmičke scenarije. Mnogi su uzbuđeni zbog potencijalnih primjena tehnologije.

‘Mislim da bi ova generacija tehnologije umjetne inteligencije, na koju smo upravo naletjeli, mogla doista otključati velik potencijal za čovječanstvo da napreduje u puno većoj mjeri nego što smo vidjeli u posljednjih 100 ili 200 godina’, rekao je Wang. ‘Zapravo sam vrlo, vrlo optimističan u pogledu njezinog pozitivnog utjecaja. Ali u isto vrijeme gledam što su društveni mediji učinili društvu i kulturi i svjestan sam činjenice da postoji mnogo potencijalnih nedostataka’, zaključio je za Guardian.