GLAVNI STRUČNJAK

Papa Franjo ima svog savjetnika za AI: Tko je 'tech fratar' Paolo Benanti

28.01.2024 u 17:34

Bionic
Reading

Osim duhovnih tema, moralne teologije i bioetike, franjevac Paolo Benanti bavi se jednim od najvažnijih pitanja suvremenog doba: kako upravljati umjetnom inteligencijom (AI) tako da obogaćuje, a ne iskorištava ljudske živote. Taj akademik i teolog glavni je stručnjak za tehnologiju i AI ne samo Vatikana, već i savjetnik ponajboljih inženjera i izvršnih direktora iz Silicijske doline

S inženjerskim iskustvom, doktoratom iz teologije i strašću za ono što naziva 'etikom tehnologije', 50-godišnji talijanski svećenik se s papom Franjom nalazi u važnoj misiji. Papa je, naime, u svojoj godišnjoj mirovnoj poruci za 2024. podržao međunarodni sporazum koji bi osigurao etičnu upotrebu AI tehnologije.

'U čemu je razlika između čovjeka koji postoji i stroja koji funkcionira?' zapitao se Benanti u intervjuu za Associated Press tijekom pauze na Papinskom sveučilištu Gregoriana, na kojem predaje kolegije poput moralne teologije i bioetike studentima koji se pripremaju za svećeništvo.

'Ovo je možda najveće pitanje ovih vremena jer smo svakim danom svjedoci sve dubljeg izazova zbog razvoja stroja koji se humanizira', naglasio je.

Savjetnik za AI

Benanti je član Savjetodavnog tijela Ujedinjenih naroda za umjetnu inteligenciju, kao i šef talijanske komisije zadužene za davanje preporuka vladi o tome kako zaštititi novinarstvo od lažnih vijesti i drugih vrsta dezinformacija. Također je konzultant Papinske akademije za život u Vatikanu. Benanti kaže da pomaže u 'boljem razjašnjavanju tehničkih izraza Svetom Ocu' tijekom njihovih susreta.

Njegovo znanje bilo je osobito korisno uoči sastanka pape Franje i predsjednika Microsofta Brada Smitha u Vatikanu 2023., koji je bio usredotočen na pitanje kako umjetna inteligencija može pomoći ili pak naškoditi čovječanstvu. Franjo i Smith već su ranije razgovarali o umjetnoj inteligenciji 'u službi općeg dobra'.

Budući da je papinstvo pažljivo usmjereno i prati one koji žive na marginama društva, papa Franjo je jasno izrazio svoju zabrinutost da bi tehnologija umjetne inteligencije mogla ograničiti ljudska prava tako što bi, recimo, negativno utjecala na zahtjev kupca za kredit, zahtjeve migranata za azil ili procjenu vjerojatnosti da prijestupnik ponovi zločin. Kako su istraživači ranije upozorili, modeli AI-ja mogu biti obučeni tako da obmanjuju ljude.

'Jasno je da ćemo, ako izaberemo neke podatke koji nisu dovoljno inkluzivni, imati i neke izbore koji nisu inkluzivni', rekao je Benanti, čiji je vjerski red - franjevce - početkom 13. stoljeća utemeljio sveti Franjo Asiški, fratar koji se odrekao zemaljskog bogatstva te promicao dobrotu i solidarnost.

Microsoft se obratio Benantiju prije nekoliko godina zbog njegovih razmišljanja o tehnologiji, otkrio je fratar. Godine 2023. Smith je snimio podcast s njim u Rimu, rekavši da fratar donosi 'jednu od najfascinantnijih kombinacija na svijetu', misleći na njegovo iskustvo u inženjerstvu, etici i tehnologiji.

Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
  • Fra Paolo Benanti
    +2
Fra Paolo Benanti Izvor: Profimedia / Autor: Cecilia Fabiano / LaPresse / Profimedia

Etika i umjetna inteligencija

Benantija je godina dana dijelila od stjecanja diplome inženjera na rimskom Sveučilištu Sapienza, od kojeg je odustao nakon što je prekinuo romantičnu vezu s tadašnjom djevojkom te je u 20-ima odlučio slijediti svoj svećenički poziv, pridruživši se franjevcima.

Ustvrdio je da bi umjetna inteligencija mogla biti 'stvarno moćan alat' u, primjerice, smanjenju troškova lijekova i poticanju liječnika da pomognu većem broju ljudi. No također je opisao etičke implikacije tehnologije koja bi mogla imati iste sposobnosti kao i ljudi - ili možda čak više od toga. 'Nije problem u korištenju AI-ja, nego u upravljanju njime', rekao je fratar. 'I tu dolazi etika - pronalaženje prave razine upotrebe unutar društvenog konteksta', ustvrdio je.

Benanti je primijetio da većina podataka koji obučavaju AI dolazi od radnika s niskim plaćama, od kojih su mnogi pristigli iz zemalja u razvoju, čija je radna snaga kroz povijest bila izrabljivana zbog kolonijalizma, među ostalim.

'Ako se ispitaju 'najbolji AI alati na Zapadu', vidi se da je umjetna inteligencija 'obučena pomoću nedovoljno plaćenih radnika iz bivših kolonija u kojima se govori engleski. Ne želim da se ovo pamti kao razdoblje u kojem crpimo kognitivne resurse s globalnog Juga', ustvrdio je Benanti.

Kako upravljati umjetnom inteligencijom, pitanje je koje zemlje diljem svijeta pokušavaju riješiti. Europska unija postala je pionir u tome krajem prošle godine, kada su pregovarači osigurali dogovor koji otvara put pravnom nadzoru AI tehnologije.

U Italiji će premijerka Giorgia Meloni, koju brine to da bi umjetna inteligencija mogla dovesti do gubitka radnih mjesta, ovu temu staviti u fokus ovogodišnjeg samita G-7 u lipnju, čiji je Italija domaćin, zbog čega se sastala i s osnivačem Microsofta Billom Gatesom. Tom je sastanku prisustvovao i Benanti.

Fratar je za AP rekao da reguliranje umjetne inteligencije ne bi trebalo značiti ograničavanje njezina razvoja. 'To znači održati je kompatibilnom s tim krhkim sustavom kakav je demokracija, a koji se danas čini najboljim sustavom', rekao je Benanti.