Gemini AI slučajno je zašao u kulturni rat koji bjesni između lijevo i desno orijentiranih zajednica. Ova Googleova verzija viralnog chatbota ChatGPT može odgovoriti na pitanja u tekstualnom obliku, a također može generirati slike kao odgovor na tekstualne upite.

U početku je viralna objava pokazala da ovaj nedavno lansirani AI generator slika stvara sliku 'očeva' utemeljitelja SAD-a koja netočno uključuje crnce.

Gemini je također generirao slike njemačkih vojnika iz Drugog svjetskog rata, netočno prikazujući crnca i Azijatkinju.

Google se ispričao i odmah 'pauzirao' alat, napisavši u postu na blogu da 'promašuje cilj'. Međutim, tu nije bio kraj - njegovi pretjerano politički korektni odgovori su se nizali, ovaj put iz tekstualne verzije, piše BBC. Gemini je odgovorio da 'nema točnog ili krivog odgovora' na pitanje je li Elon Musk kad objavljuje memove na X-u gori od Hitlerovog ubijanja milijuna ljudi.

Na pitanje bi li bilo u redu pogrešno označiti trans ženu visokog profila Caitlyn Jenner ako je to jedini način da se izbjegne nuklearna apokalipsa, odgovorio je da to 'nikada ne bi bilo prihvatljivo'. Sama Jenner je odgovorila i rekla zapravo, da, ona bi bila u redu s tim u ovim okolnostima. Elon Musk, objavljujući na svojoj vlastitoj platformi X, opisao je odgovore Geminija kao 'iznimno alarmantne' s obzirom na to da će alat biti ugrađen u druge Googleove proizvode koje koriste milijarde ljudi diljem svijeta.

U internom dopisu Googleov izvršni direktor Sundar Pichai priznao je da su neki od odgovora Geminija 'uvrijedili naše korisnike i pokazali pristranost'. Rekao je da je to 'potpuno neprihvatljivo' - dodajući da njegovi timovi 'rade danonoćno' na rješavanju problema. Čini se da je u pokušaju rješavanja jednog problema - pristranosti - tehnološki div stvorio još jedan: rezultat koji se toliko trudi biti politički korektan da na kraju ispadne apsurdan.

Objašnjenje zašto se to dogodilo leži u ogromnim količinama podataka na kojima se obučavaju AI alati. Velik dio je javno dostupan - na internetu, za koji znamo da sadrži svakakve pristranosti. Tradicionalno, na primjer, slike liječnika češće prikazuju muškarce. Slike čistačica s druge strane vjerojatnije su žene.

Alati umjetne inteligencije obučeni s ovim podacima u prošlosti su činili neugodne pogreške, kao što je zaključak da samo muškarci imaju visoko intenzivne poslove ili neprepoznavanje crnih lica kao ljudskih. Također nije tajna da je povijesno pripovijedanje imalo tendenciju da prikazuje muškarce i dolazi od njih, izostavljajući uloge žena iz priča o prošlosti.

Čini se da je Google aktivno pokušao nadoknaditi svu ovu ljudsku pristranost uputama za Gemini da ne prave takve pretpostavke. Ovaj se plan izjalovio upravo zato što ljudska povijest i kultura nisu tako jednostavne: postoje nijanse koje mi znamo instinktivno, a strojevi ne.

Osim ako posebno ne programirate AI alat da zna da, na primjer, nacisti i utemeljitelji nisu bili crnci, on na to neće pripaziti. U ponedjeljak je suosnivač DeepMinda, Demis Hassabis, tvrtke za umjetnu inteligenciju koju je kupio Google, rekao da će popravljanje generatora slike trajati nekoliko tjedana.

Drugi stručnjaci za umjetnu inteligenciju, doduše, nisu tako sigurni. 'Zapravo nema jednostavnog rješenja, jer ne postoji jedinstveni odgovor na to kakvi bi rezultati trebali biti', rekla je dr. Sasha Luccioni, znanstvenica u Huggingfaceu. 'Ljudi u etičkoj zajednici umjetne inteligencije već godinama rade na mogućim načinima rješavanja ovoga.'

Jedno rješenje, dodala je, moglo bi uključivati traženje korisnika za njihov doprinos, poput 'koliko biste željeli da vaša slika bude raznolika?', ali to samo po sebi jasno dolazi sa svojim crvenim zastavama. 'Malo je drsko od Googlea reći da će 'riješiti' problem za nekoliko tjedana. Ali morat će nešto učiniti', rekla je.

Na papiru, Google ima značajno vodstvo u utrci umjetne inteligencije. Proizvodi i isporučuje vlastite čipove za umjetnu inteligenciju, posjeduje vlastitu mrežu u oblaku (bitnu za obradu umjetnom inteligencijom), ima pristup hrpi podataka i ogromnu bazu korisnika. Zapošljava vrhunske talente za umjetnu inteligenciju, s time da je njegov rad u području AI-ja općenito dobro ocijenjen.