Tvorac najpoznatijeg AI chatbota na svijetu, OpenAI, ima plan za sprječavanje korištenja njegovih alata za širenje izbornih dezinformacija, dok se glasači u više od 50 svjetskih država pripremaju glasati na nacionalnim izborima, piše US News.

Zaštitne mjere koje je kompanija za umjetnu inteligenciju sa sjedištem u San Franciscu iznjela na blogu uključuju mješavinu već postojećih politika, kao i novih inicijativa za sprječavanje zlouporabe vrlo popularnih generativnih AI alata. Ti alati mogu stvoriti nove tekstove i slike u nekoliko sekundi, ali također mogu biti naoružani za smišljanje obmanjujućih poruka ili uvjerljivih lažnih fotografija.

Koraci će se posebice primjenjivati na OpenAI, samo jednog igrača u svemiru kompanija koje razvijaju napredne generativne AI alate. Tvrtka, koja je najavila poteze u ponedjeljak, izjavila je da planira 'nastaviti rad na sigurnosti platforme podizanjem točnih informacija o glasanju, provođenjem odmjerenih politika i poboljšanjem transparentnosti'.

OpenAI navodi kako će zabraniti korištenje njihove tehnologije za stvaranje chatbota koji oponašaju stvarne kandidate ili vlade, za lažno predstavljanje načina na koji glasovanje funkcionira ili za odvraćanje ljudi od glasovanja. Rekao je da sve dok se ne provedu dodatna istraživanja o uvjerljivoj moći njegove tehnologije, neće dopustiti korisnicima izradu aplikacija u svrhu političke kampanje ili lobiranja.

Počevši 'početkom ove godine', rekao je OpenAI, sustav će početi stavljati vodeni žig na AI slike stvorene pomoću njegovog DALL-E generatora slika. Njima će sadržaj trajno označiti informacijama o njegovom podrijetlu, što će olakšati prepoznavanje je li slika koja se pojavljuje negdje drugdje na webu stvorena pomoću AI alata. Tvrtka je također rekla da je u partnerstvu s Nacionalnom udrugom državnih tajnika kako bi usmjerila korisnike ChatGPT-a koji postavljaju logistička pitanja o glasovanju na točne informacije na nestranačkoj web stranici te grupe, CanIVote.org.

Mekela Panditharatne, savjetnica u programu demokracije u Brennan Centru za pravdu, rekla je da su planovi OpenAI-ja pozitivan korak prema borbi protiv izbornih dezinformacija, ali će sve zavisi o tome kako će se oni provesti. 'Koliko će iscrpni i sveobuhvatni biti filtri prilikom označavanja pitanja o izbornom procesu?' pitala je. 'Hoće li postojati teme koje će se provući kroz pukotine?'

OpenAI-jevi ChatGPT i DALL-E neki su od najmoćnijih generativnih AI alata do danas, no postoje mnoge tvrtke sa sličnom sofisticiranom tehnologijom koje nemaju dovoljno zaštitnih mjera protiv izbornih dezinformacija. Iako su neke tvrtke za društvene medije, poput YouTubea i Mete, uvele politike označavanja umjetne inteligencije, još je pitanje hoće li moći dosljedno hvatati prekršitelje.

'Bilo bi od pomoći kad bi druge tvrtke koje se bave generativnom umjetnom inteligencijom usvojile slične smjernice kako bi se praktična pravila mogla primijeniti u cijeloj industriji', rekao je Darrell West, viši suradnik u Centru za tehnološke inovacije Brooking Institutiona. Bez dobrovoljnog usvajanja takvih politika u cijeloj industriji, reguliranje dezinformacija generiranih umjetnom inteligencijom u politici zahtijevalo bi zakonodavstvo.

U SAD-u Kongres tek treba usvojiti zakon kojim se želi regulirati uloga industrije u politici unatoč određenoj dvostranačkoj podršci. U međuvremenu, više od trećine saveznih država SAD-a usvojilo je ili predstavilo zakone za deepfake sadržaje u političkim kampanjama - dok su savezni zakoni u zastoju.

Izvršni direktor OpenAI-ja Sam Altman rekao je da čak i uz sve zaštitne mjere njegove tvrtke na mjestu, on nije spokojan. 'Mislim da je dobro što imamo mnogo tjeskobe i učinit ćemo sve što možemo da to ispravimo koliko god možemo', rekao je tijekom intervjua u utorak na događaju Bloomberga tijekom Svjetskog ekonomskog foruma u Davosu, u Švicarskoj. 'Morat ćemo sve ovo nevjerojatno pažljivo promatrati. Super strogo nadzirati.'