Pustite li svom djetetu na YouTubeu crtić Praščić Peppa, postoji mogućnost da će umjesto vesele životinjice djetetu biti serviran potpuno drugačiji sadržaj koji obiluje nasiljem i bizarnim scenama. Tko stoji iza ovoga i možemo li mu stati na kraj ili se radi o nečemu mračnijem - ponašanju ukorijenjenom u algoritme najpopularnijeg videoservisa na planetu?

Svijet kojim surfamo

Internet je čudno mjesto - toga smo savršeno svjesni. Velike kompanije koje nam iz dana u dan nude svoje proizvode već godinama uvjeravaju javnost da je digitalni svijet opasno mjesto, no da njima možemo vjerovati. Premisa instrumentalizacije interneta o kojoj se govori već godinama na mala vrata stiže i do nas, nudeći nam 'sigurno' surfanje kroz Google, Facebook i niz drugih tehnoloških divova. Uz sve manji broj 'očitih' opasnih mjesta na globalnoj mreži, kao i tehnologiju koja sve više prožima naš svakodnevni život, vrlo je lako uljuljati se u lažni osjećaj sigurnosti.

Zanemarivanjem tekovina modernih vremena, kompanijama motiviranima zaradom svakim danom sve više dopuštamo da naš privatni život koriste kao izvor masivne zarade. YouTube je savršen primjer portala koji zarađuje i na najmlađima te koji skoro u cijelosti funkcionira zahvaljujući umjetnoj inteligenciji. Videosadržaj za djecu na YouTubeu probire specijalni algoritam koji površno nadgledaju tisuće administratora te koji iz dana u dan postaje sve veći izvor novca.

Mračna strana YouTubea

Žalosni dio ove priče je da su novčane strane YouTubea svjesni i tvorci sadržaja koji nalaze nove načine brze i učinkovite zarade. Dio tih tvoraca specijalizirao se za izradu sadržaja za najmlađe, samo ne na način na koji biste očekivali. Njihov cilj je napraviti video koji traje dugo, koji ima sve elemente što ih algoritam YouTubea traži i koji je (bezdušno) složen s jednom jedinom svrhom - zaradom korištenjem osnovnih pravila popularne društvene mreže.

Ta videa nerijetko imaju krajnje uznemirujući sadržaj, od nasilja do bizarnih scena i, što je najgore od svega, čini se da njihovim vlasnicima plan polazi za rukom. Oni najpoznatiji bizarni poput 'Bad Kids & Learn Colors Giant Watermelon Finger Family Song Nursery Rhymes | Learning Video For Kids' napravljeni su kako bi se iskobeljali pored konkurencije i djeci iskakali kao najbolje sugestije za sljedeći video. Tako roditelje koji, recimo, žele djetetu pomoći pri učenju boja nesvjesno navode na polusatna videa u kojima Elsa, Hulk, Spiderman i Joker pucaju iz automatskog oružja.

Bolesni umovi ili bezdušna logika

Kanal odgovoran za ovaj videouradak je Battle VS Death Battle, koji ih izbacuje na dnevnoj bazi i time, ovisno o reklamama, zarađuje do nekoliko stotina tisuća dolara godišnje. Ako na ovo gledamo iz perspektive roditelja ili djeteta, radi se o noćnoj mori koju je stvorila bolesna osoba. Ako to, u drugu ruku, promatramo iz perspektive YouTubea, ovo je pravi algoritamski zlatni rudnik. Video je krcan šarenim bojama, poznatim likovima iz crtića i ima riječi koje koriste najgledaniji videoradovi takve vrste. Ovo je, po svim standardima Googleove računalno-korporativne politike, savršen materijal za zaradu. 

Kanali poput Battle VS Death Battle su tek vrh sante leda. YouTube je naime pun potpuno automatiziranih proizvođača sadržaja koji (doslovno) piratiziraju druge popularne kanale kradući isječke videa, automatski generiraju još bizarnije uratke, a cijelo vrijeme koriste isti recept - imena, dječji likovi, boje i trajanje. Takve kanale, pored traumatizirane predškolske djece, uglavnom gledaju i 'lajkaju' roboti koji stvaraju sličan sadržaj. Konačni rezultat je morbidni sustav računalno generiranih videa za djecu na kojima tvorci skripta zarađuju nezamislive količine novca. YouTube je, nadamo se nesvjesno, uspio proizvesti sustav u kojem njegov najmračniji dio može egzistirati i stvarati hrpu novca - njima kroz reklame, a vlasnicima kanala kroz standardnu zaradu preko YouTubea.

Naš sugovornik i stručnjak za cybersigurnost Lucijan Carić ovo je prokomentirao jednostavnom izjavom: 'Tko dozvoli da mu djecu odgaja Google, bolje da se ubije.'

'Servisi poput Youtubea, Facebooka i Instagrama nisu mjesta na kojima se štite ljudske slobode, prava, jednakost i bratstvo među ljudima ili mjesta na kojima se čuva baština čuvenog i svetog prvog amandmana, već prvenstveno komercijalni servisi koji donose veliku zaradu', naglašava Carić te nastavlja: 'Demagogija o dobroti, pravdi, jednakosti i nebivanju zlim koju šire vlasnici tih servisa - prvenstveno je promidžba i stvaranje imidža dobrote na kojem se grade komercijalni uspjesi. Stvarnost je vrlo često upravo suprotna. Shodno tome, svi ti servisi propagiraju glavno i osnovno pravilo - ako ti se ne sviđa, a ti lijepo otiđi. Dakle pravila tih servisa su na njima sveto pismo - kakva god bila, a obično su manjkava i nepravedna te se nepravedno i nejednako primjenjuju', zaključuje.

Strojevi, ljudi, čudovišta

Na žalost roditelja i djece, kanali koji proizvode ovakvu vrstu bizarnih sadržaja ne dolaze samo iz ruku bezdušnih strojeva. Brojni proizvođači sadržaja koriste prave glumce i djecu kako bi stvarali bizarna videa sličnog, makar donekle manje bizarnog sadržaja. Popularnost njihovih kanala također je vrlo visoka zahvaljujući algoritmima iz Googlea, a čini se kako im skoro nitko ne može doći na kraj. Neki od najbizarnijih 'dječjih' videa koji kruže YouTubeom oni su koji koriste ukradene likove iz crtića i filmova i stavljaju ih u smrtno opasne ili uznemirujuće scene - poput polusatnog videa u kojem poremećeni zubar muči uplašenu Praščicu Pepu. I da, takva videa bez nadzora roditelja često znaju iskočiti među predloženim sadržajem na YouTubeu. Razlog? Opet algoritmi.

Carić smatra da ovakvo ponašanje računala i proizvođača sadržaja nije ništa iznenađujuće: 'Automatizirane algoritamske zaštitne mjere nesavršene su i u pravilu zasnovane na postojećem znanju i spoznajama, a ne na onim budućim. Bez obzira koliko logike ili umjetne inteligencije ugradite u neki sustav, on i dalje neće biti savršen i bit će podložan manipulacijama.'

YouTube je reagirao

Fenomen računalno generiranog sadržaja postoji i na drugim relativno bizarnim dijelovima YouTubea, gdje se oko njih pojavila prava supkultura obožavatelja bizarnog, kao i klasičnih internetskih trolova. Problem besramne niše koja cilja djecu potakla je medije i roditelje da izvrše pritisak na YouTube i Google. Pretraživački div je u četvrtak potvrdio da će se 'primiti posla' i riješiti problem bizarnih videa za djecu. Njihov plan je naime uposliti još više ljudi koji će ručno pregledavati i ocjenjivati novi video, kao i upogoniti specijalni algoritam koji nakon prijave uznemirujući video automatski kategorizira kao onaj za odrasle. Ovo bi, barem u teoriji, trebalo donekle suzbiti brzorastući trend strojno i ljudski generiranih 'horor videa za djecu'.

Riješili oni ovaj problem ili ne, činjenica je da on pokazuje vrlo mračnu stranu digitalne ere. Najjeziviji dio priče o morbidnim 'dječjim' videima na YouTubeu nisu sama videa, već bezdušni stroj koji ih je izabrao. Riječ je o vrlo, vrlo zornom primjeru dehumanizirane logike s kojom ćemo se, ako ne pripazimo na automatizaciju svega oko nas, suočavati sve više i više.

Uostalom, s našim se zaključkom slaže i sam Carić: 'Ostaviti dijete bez nadzora ispred računala, dok Google, Facebook, Youtube ili ne znam koja slična tvrtka glume dadilju, glup je, neodgovoran i u krajnjoj liniji samoubilački potez, koji nitko pametan (i neopterećen umjetnom inteligencijom) ne bi predložio. Naime jasno je da će sve te tvrtke između svojih komercijalnih interesa i interesa vašeg djeteta bez razmišljanja izabrati ovo prvo.'