Ne ljutim se često na tehnologiju. Mislim, kužim da se nemam što ljutiti na neki hardver ili softver jer ću teško s njima ući u neki (zdravo)razumski odnos i riješiti uzroke svoje ljutnje. Ipak, uvijek se nanerviram kada na svom profilu na Twitteru, ono pod Me, vidim odabir Twitter profila Similar to Iva Biondic. Teško je reći da li mi se ne sviđa to što mislim da nisam slična tim ljudima i avatarima ili to što Twitter (ponekad) pogodi tko mi je sličan, a meni nije drago što su mi ti slični.

Razlozi ljutnje su uglavnom vrlo konfuzni. Kako god, ja se nanerviram. Ono kad imaš potrebu nekog nazvati i pitati "da li ste vi normalni?", "koja budala je..?" i slično. Ali nemam koga nazvati. Što dodatno doprinosi konfuziji. Čak i da nazovem Mr. Wolfa, on to ne bi mogao riješiti. Jer Mr. Algoritam je in charge

Kad mi isti taj Mr. Algoritam odabere preporuke knjiga, filmova, serija, glazbe... na Amazonu i Netflixu, onda se ne nerviram ali nešto upitnika mi ostane nad glavom. Prije svega, ako sam preko Amazona kupila četiri knjige nekog autora, nije neka nauka predložiti mi da kupim novu, petu, knjigu istog autora.

Ali iskreno nije mi jasno da nakon što kupim futrolu za iPad Mini dobijem još 15 preporuka za futrole svih mogućih boja i materijala. Koliko mi točno futrola za neki gadget može trebati?! No i o tome nemam s kime razgovarati. Jer je i taj odabir napravio neki algoritam.

Eksternaliziranje odgovornosti

Kevin Slavin sa MIT-a kaže da su algoritmi matematika koju koriste računala da bi donijela odluku. A to je onda jedna od odluka koju ne moramo donijeti mi. Jer donošenje odluka nije najlakša stvar za većinu ljudi. Napraviti izbor ima više inherentnih gubitaka nego li dobitaka. Jer izbor pred nama – filmova, knjiga pa onda i Twitter profila kao i brojnih drugih sadržaja, informacija, proizvoda i usluga – je golem.
U knjizi "Tiranija izbora" Renata Salecl smatra da nam odabir preporučenog, oglašavanog omogućava da uklonimo neizvjesnost otkrivanja nečeg novog. Možda još važnije, otklanja odgovornost za krivi izbor i propuštanje nekih potencijalno boljih za koje se nažalost nismo odlučili.

Pa se algoritmi zapravo čine kao jedan briljantan način da se eksternalizira odgovornost. Tim eksternaliziranjem dolazi do još jednog pretapanja mašine i organizma, odnosno konstituiranja našeg kiborškog stanja.

U prošlom blogu Mi, kiborzi pisala sam o tome kako danas svakoga tko je dio urbanog društva možemo smatrati niskotehnološkim kiborgom jer provodi veći dio dana povezan sa strojevima poput automobila, telefona, kompjutera i, naravno, televizije. Dio svih tih strojeva su algoritmi.

O stvaranju jedne muhe i jednog algoritamskog kaosa

Algoritam koji Netflix koristi kako bi predvidio koji sljedeći film želite pogledati zove se Pragmatic Chaos. Vrlo adekvatno ime za jedan kod koji pokušava odgonetnuti i donijeti odluku o tome koji bi ja film mogla pogledati nakon što sam pogledala Wong Kar-waijev "Days of Being Wild", pa "Lost in Translation" Sofije Coppole pa bilo koji film Jacquesa Audriarda i "Bladerunnera" po ne znam koji put.

Amazon je imao jedan slavni kaos 2011. godine kad se algoritam zaigrao pa je knjiga "The Making of a Fly" dostigla cijenu od 23 milijuna 698 tisuća 655 dolara i 93 centa (plus 3 dolara i 99 centa za poštarinu)

Naime kodovi, algoritmi, osmišljeni su tako da budu dovoljno pametni da funkcioniraju bez ljudske intervencije. No kod ovog kaosa s knjigom o muhi pokazalo se da nisu uvijek baš tak pametni. Ok, činjenica je da se knjiga nije tiskala od 1992. godine i da je na raspolaganju preko Amazona bilo "samo" 17 knjiga i da je riječ o nekom bitnom djelu razvojne biologije, ali algoritam je očito negdje jako fulao i donio krivu odluku.

Na svu sreću, nitko se nije zanio i platio 20 i nešto milijuna dolara za knjigu o muhama koliko god ona znanstveno važna bila. Ali što kad algoritmi donose krive odluke, a mi to ne znamo? I gdje to sve i kada algoritmi donose odluke umjesto nas?

Narativna znanost

Jedan od autora na Forbesovom portalu potpisuje se kao Narrative Science. Nije riječ o pretencioznom pseudonimu nekog nadobudnog blogera ili kolumnista velikog ega. Riječ je o kompaniji iza koje stoji jedan algoritam koji se zove Quill (pero; ono koje se nekad koristilo za pisanje). Da, neke članke za Forbes piše automatizirani novinarski softver. Odnosno, moglo bi se reći robot.

Narrative Science za sebe kažu da su "inovativna tehnološka kompanija koja podatke pretvara u priče". Svjesni su da je pričanje priča fundamentalna metoda komunikacije čovječanstva. Pa su nam onda omogućili komunikaciju čovjeka s robotom.

Taj softver Quill je njihova patentirana tehnologija, sustav umjetne inteligencije koji "generira, evaluira i daje glas idejama koje otkrije među podacima". Narative Science, odnosno Quill, za Forbes provjerava podatke, identificira trendove, veze, korelacije, iznimke... te ih interpretira i donosi sudove i zaključke o financijskim izvještajima tvrtki. Vodi i računa da sve to na kraju predoči u "specifičnoj narativnoj strukturi koja omogućava dostizanje specifičnih komunikacijskih ciljeva."

Zašto je ugledni izdavač poput Forbesa outsourceao ovaj novinarski posao nekom Mr. Algoritmu? Navodno je Quill u mogućnosti obraditi veliki broj podataka puno brže nego i jedan novinar od krvi i mesa. A i Quill ima znantno manje zahtjeve – plaćen je 10 dolara za 500 riječi, ne prigovara oko radnih uvjeta i radnog vremena.

Naša algoritamski kontrolirana svakodnevica nastavlja se i u priči sa Wall Streeta, s burze, gdje se financijski izvještaji koje isti taj Quill obrađuje i rađaju. Naime, 70% tradinga danas predstavlja algo trading ili black box trading. Riječ je o automatiziranom tradingu i odlukama o kupnji i prodaji koje ne donose ljudi nego algoritmi. Zato danas na Wall Streetu ima više zaposlenih matematičara i fizičara nego financijaša.

Kako predvidjeti hit?

Algoritmima se danas kompanije služe i za predviđanje – npr. glazbenih hitova ili u koje filmove i koliko treba uložiti. Prije nego što je izdan album Norah Jones "Come Away With Me", prije nego što je prodan i jedan od više od 26 milijuna od tada prodanih primjeraka, prije nego što se našla na ijednoj top listi i prije nego što je dobila osam Grammyja, njen potencijal otkrio je algoritam Hit Song Science, HSS.

Taj "spektralni dekonvolucijski softver" mjeri matematičke odnose među strukturalnim komponentama pjesme – melodije, harmonije, beata, ritma, tempa... i prema tome navodno sa 80% točnosti može procijeniti hoće li pjesma biti hit. Kad je HSS poslušao spomenuti album Norah Jones, procijenio je da 9 od 14 pjesama ima potencijal da budu hit. Ekipa koja je stvorila HSS kaže da "misle da su shvatili kako mozak radi kad je glazbeni ukus u pitanju". Hm.

Ekipa iz tvrtke Epagogix o kojoj Malcolm Gladwell piše još 2006. u The New Yorkeru tvrdi pak da mogu predvidjeti koliko će neki film biti gledan odnosno koliko će novaca zaraditi. Između ostalog, njihov algoritam navodno smatra da su za uspjeh filma nebitni glumci, redatelj... Manje-više, sve je manje bitno osim same priče. Hm.

Alkemija algoritama

Čini mi se kao da sve ove kompanije, softveri i algoritmi pokušavaju otkriti neku tajnu formulu, naći neki jedinstveni dosljedni sistem u svemu. Gotovo kao da se igraju alkemičara pokušavajući neplemenite metale, u ovom slučaju materijale, pretvoriti u "zlato".
Nešto je doista čudno u toj postavci da je moguće predvidjeti da će neka pjesma, film ili knjiga postati hit. Da je moguće izmjeriti hit-potencijal nekog kulturnog proizvoda.

Postaje li u današnjem marketinški i algoritamski saturiranom svijetu išta hit zbog svojih "urođenih" karakteristika, a ne zato što su u to uloženi milijuni u promotivne kampanje i zato što su algoritmi objektivno i automatizirano donijeli odluku da je riječ o najboljem izboru, a onda je on osnažen prihvaćanjem te odluke od strane naših prijatelja i njihovih prijatelja i prijatelja prijateljevih prijatelja?

Možda je riječ o samoispunjavajućem proročanstvu – ako filmski studiji i glazbeni izdavači ulažu novac u filmove i pjesme za koje im je algoritam "rekao" da će biti hitovi, onda oni možda postanu hitovi zato što je novac uložen baš u njih, a ne u druge koje Mr. Algoritam nije prepoznao.

Digitalni Prozac

U svom kiborškom stanju, algoritmima prepuštamo predviđanje na osnovu kojeg onda odlučujemo, a nekada i odlučivanje samo. Prema Renati Salecl, ljude kod biranja traumatiziraju četiri stvari: prvo - želja da izbor bude idealan, drugo - to što se pitaju što će drugi misliti o njihovom izboru i što bi drugi izabrali, treće - čini im se da je društvo oko njih nekontrolabilno i četvrto - zapravo se s pravom boje da uopće ne biraju slobodno nego da je odabir za njih napravila neka marketinška strategija u koju su se upleli.

U tom kontekstu, algoritmi su idealni da smanje mogućnost pogreške i odgovornost za nju te uklone sram pred drugima, a i dokazuju zadnje dvije postavke – da je društvo, odnosno njegovo algoritamsko tkanje stvarno nekontrolabilno (kako nam, na primjer, cijena važne knjige o muhi pokazuje) i da nismo ništa slobodno odabrali već je Mr. Algoritam većinu odabira odradio za nas.

Tako su i algoritmi postali naši "eksterni kognitivni sluge". Ili mi njihovi robovi. Budući da su algoritmi apstraktni i nevidljivi a omniprezentni, pitanje je da li smo svjesni koliko su odgovorni za konfiguraciju naše kulture, naše svakodnevnice i našeg identiteta. Želimo li uopće biti svjesni toga?

Kad je o slobodi izbora riječ, Kierkegaard je slobodu smatrao odgovornom za ljudsku tjeskobu. Možda su algoritmi neka vrsta digitalnog Prozaca koji nam omogućava da budemo ugodno obamrli i pošteđeni donošenja odluka?

Ostale tekstove iz serijala Mediamorfoze pročitajte ovdje.