Nakon što su ranije ove godine prosvjedi u Pakistanu eskalirali u sukobe između provladinih snaga i pristaša bivšeg premijera Imrana Khana, sada zatvoreni vođa okrenuo se društvenim medijima da bi pojačao svoju poruku.

Khan je podijelio videoisječak na Twitteru koji prikazuje ljude kako drže natpise s njegovim slikama i skandiraju njegovo ime. Isječak završava snimkom žene u narančastoj haljini koja hrabro stoji licem u lice s kolonom teško oklopljenih interventnih policajaca.

'Ono što se nikada neće zaboraviti je brutalnost naših snaga sigurnosti i besraman način na koji su dali sve od sebe da bi zlostavljali, povrijedili i ponizili naše žene', tvitao je Khan.

Jedini problem: slika koja prikazuje ženu kako hrabro stoji pred policijom nije bila stvarna. Stvorena je pomoću jednog od mnogih novih AI generatora slika. Tim više što je pakistanski premijer bio suočen s burnim reakcijama nakon što je žrtve silovanja optužio da su same krive jer nose 'vrlo malo odjeće', pa ovakve generirane scene doista nemaju puno veze sa stvarnošću.

No Khan nije jedini politički vođa koji se radi političke dobiti okreće AI deepfakeu. Novo izvješće Freedom Housea pokazalo je da su politički čelnici u najmanje 16 zemalja prošle godine koristili AI tehnologiju kako bi 'posijali sumnju, ocrnili protivnike ili utjecali na javnu raspravu'. Iako se nekolicina tih primjera dogodila u manje razvijenim zemljama podsaharske Afrike i jugozapadne Azije, barem dva potječu iz Sjedinjenih Država, piše Gizmodo.

Rat klevetom

Bivši predsjednik SAD-a Donald Trump i guverner Floride Ron DeSantis koristili su se lažiranim video i audio AI zapisima da bi pokušali ocrniti jedan drugoga uoči nadolazeće republikanske predsjedničke nominacije. Tako je Trump upotrijebio deepfake zvuk oponašajući Georgea Sorosa, Adolfa Hitlera i samog Vraga kako bi ismijao DeSantisovu najavu kampanje na Twitter Spacesu.

DeSantis je uzvratio deepfake slikama koje navodno prikazuju Trumpa u zagrljaju s bivšim direktorom Nacionalnog instituta za zdravlje Anthonyjem Faucijem. Pokazivanje ljubaznosti prema Fauciju u Republikanskoj stranci trenutno je ravno političkom samoubojstvu.

'Umjetna inteligencija može poslužiti kao pojačivač digitalne represije, čineći cenzuru, nadzor te stvaranje i širenje dezinformacija lakšim, bržim, jeftinijim i učinkovitijim', istaknuo je Freedom House u svom izvješću 'Sloboda na mreži'.

Umjetna inteligencija u rukama diktatora

Izvješće opisuje brojne zabrinjavajuće načine na koje se alati za unaprjeđenje umjetne inteligencije koriste za pojačavanje političke represije diljem svijeta. Vlade u najmanje 22 od 70 zemalja analiziranih u izvješću imale su zakonske okvire koji su nalagali tvrtkama društvenih medija da uvedu umjetnu inteligenciju kako bi ulovile i uklonile nepoželjan politički, društveni i vjerski govor. Ti okviri nadilaze standardna pravila moderiranja sadržaja na glavnim tehnološkim platformama.

U tim zemljama, tvrdi Freedom House, zakoni prisiljavaju tvrtke da uklone politički, društveni ili vjerski sadržaj koji bi 'trebao biti zaštićen prema standardima slobode izražavanja međunarodnih zakona o ljudskim pravima'. Osim povećanja učinkovitosti cenzure, korištenje umjetne inteligencije za uklanjanje političkog sadržaja također daje državi više pokrića da se sakrije.

'Ova upotreba umjetne inteligencije također maskira ulogu države u cenzuri i može olakšati dilemu takozvanog digitalnog diktatora, pri čemu nedemokratski vođe moraju odvagnuti prednosti nametanja internetskih kontrola naspram cijene javnog bijesa zbog takvih ograničenja', piše u izvješću.

Rad s privatnim tvrtkama

U drugim slučajevima državni se akteri okreću privatnim tvrtkama specijaliziranima za stvaranje generativne propagande. Državne informativne postaje u Venezueli, naprimjer, počele su dijeliti videozapise uglavnom bijelih voditelja vijesti na engleskom o tome kako se suprotstavljaju zapadnim kritikama zemlje.

Ti govornici zapravo su avatari generirani umjetnom inteligencijom, a izradila ih je tvrtka Synthesia. Prokineski vladini bot računi dijelili su slične isječke voditelja vijesti koje je generirala umjetna inteligencija na društvenim mrežama, ovaj put kako bi odbili kritičare. Prokineski AI avatari bili su dio izmišljenog odjela za vijesti o umjetnoj inteligenciji koji se navodno naziva Wolf News.

Istraživači Freedom Housea ove pokušaje stvaranja lažnih voditelja vijesti vide kao tehničku i taktičku evoluciju vlada koje prisiljavaju ili plaćaju novinske postaje da guraju njihovu propagandu. 'Ove upotrebe deepfakea u skladu su s načinima na koje beskrupulozni politički akteri dugo koriste manipulirane sadržaje vijesti i botove društvenih medija za širenje lažnih ili pogrešnih informacija', navodi se u izvješću.

Što je možda najviše zabrinjavajuće, izvješće Freedom Housea pokazuje porast broja političkih aktera koji autentične video i audiozapise nazivaju lažnim sadržajima. U jednom primjeru istaknuti državni dužnosnik u Indiji, Palanivel Thiagarajan, navodno je pokušao opovrgnuti audiozapis u kojem omalovažava svoje kolege - tvrdeći da je snimku generirala umjetna inteligencija. Snimka je, unatoč njegovoj tvrdnji, bila autentična.

Istraživači vjeruju i da je pogrešna pretpostavka da je video bivšeg predsjednika Gabona Alija Bonga lažiran možda pomogla izazvati vojni udar u toj državi.

Neizvjesna budućnost

Iako se većina političkih manipulacija i pokušaja dezinformiranja koje je Freedom House otkrio u prošloj godini još uvijek primarno oslanja na osnovnu tehnološku implementaciju botova i plaćenih trolova, ta bi se jednadžba mogla preokrenuti zato što generativni alati umjetne inteligencije iz dana u dan postaju sve uvjerljiviji i jeftiniji.

Čak i donekle neuvjerljiva ili lako oboriva manipulacija umjetnom inteligencijom, tvrdi Freedom House, 'potkopava povjerenje javnosti u demokratski proces'.

'Ovo je kritično pitanje za naše vrijeme jer su ljudska prava na internetu ključna meta današnjih autokrata', rekao je predsjednik Freedom Housea Michael J. Abramowitz. 'Demokratske bi države trebale ojačati svoju regulaciju umjetne inteligencije da bi pružile veću transparentnost, osigurale učinkovite mehanizme nadzora i dale prioritet zaštiti ljudskih prava', poručio je.