Europski parlament pozvao je početkom tjedna na zabranu policijske uporabe tehnologije prepoznavanja lica na javnim mjestima, što je prijeporna praksa koja uključuje korištenje umjetne inteligencije radi profiliranja potencijalnih kriminalaca i prije nego što je počinjen zločin. Rezolucija Europskog parlamenta ujedno traži da se policijama zabrani korištenje privatnih baza podataka za prepoznavanje lica kakve koristi kontroverzna tvrtka Clearview. Evo kako funkcionira ta dvojbena biometrija i zašto su na nju upozoravali i Ujedinjeni narodi
Sporni biometrijski sustav američke startup tvrtke Clearview AI (Artificial Intelligence – umjetna inteligencija) kreiran je 2017. kao sustav za prepoznavanje lica koji može identificirati ljude u realnom vremenu putem unaprijed pohranjenih milijuna fotografija iz različitih baza podataka s interneta, osobito s društvenih mreža.
Sustav funkcionira tako što nakon učitavanja fotografije lica uspoređuje biometrijske podatke za identificiranje s prethodno prikupljenim podacima koje je softver namaknuo 'skinuvši' fotografije osoba postavljene na Facebooku, Linkedlnu, YouTubeu i Twitteru.
vezane vijesti
Riječ je o vrlo preciznoj tehnologiji koja se, prema navodima osnivača, koristi isključivo u policijske svrhe radi identificiranja potencijalnih kršitelja zakona. Prema dostupnim podacima, biometrijski softver tvrtke Clearview AI samo u SAD-u koristi više od 2000 raznih represivnih i pravosudnih agencija i institucija, a prema otkriću novinara The New York Timesa, aplikaciju su, prema njihovim tvrdnjama, pribavile i pojedine privatne tvrtke te sigurnosne agencije Australije, Belgije, Brazila, Danske, Finske, Francuske, Grčke, Indije, Irske, Italije, Latvije, Litve, Kanade, Malte, Nizozemske, Norveške, Portugala, Rumunjske, Slovenije, Srbije, Španjolske, Švedske, Švicarske, Ukrajine i Velike Britanije. Prema pak tvrdnjama mrežne stranice za provjeravanje činjenica faktograf.hr, hrvatska policija koristi ovu tehnologiju, ali ne želi otkriti na koji način.
Osnivač upleten u phishing prijevare
Slovenska policija demantirala je to da je bila u kontaktu s Clearviewom, no organi gonjenja u našem susjedstvu koriste vlastiti alat FaceTrace, a koji je za njih 2014., prema slovenskom portalu monitor.si, razvila tvrtka Cent. Taj alat omogućava pretraživanje pojedinaca prema policijskoj zbirci fotografija, ali ona po tvrdnjama slovenskog MUP-a nema veze s vanjskim bazama podataka.
Pomama za tom aplikacijom ne čudi jer ona svakom korisniku omogućava da, nakon što ste snimljeni na javnom mjestu, dozna sve vaše podatke koji su dostupni u bespućima interneta, počevši od vašeg imena, adrese stanovanja, e-mail adrese i slično, uz uvjet da je uz te podatke objavljena vaša fotografija. Posebno je zabrinjavajuće to što korisnik aplikacije, među kojima su privatne tvrtke, a samim time i pojedinci, za snimanje osoba i njihovih lica koristi i fotografije koje su snimile nadzorne kamere na javnim mjestima, pa su moguće i razne malverzacije poput internetskih prijevara i kibernetičkog kriminala. Drugim riječima, sofisticiranih pljački nasumičnih prolaznika.
Da bojazan zbog zloporaba nije bez razloga, govori i podatak da je osnivač tvrtke Clearview AI, Australac Hoan Ton-That, kreirao 2009. aplikaciju ViddyHo, a kasnije i Fastforwarded.com, koje se koristi za financijske online prijevare, tzv. phishing prijevare, tj. slanje lažnih poruka e-pošte u kojima se korisnike navodi na dijeljenje osobnih, financijskih ili sigurnosnih podataka.
U praksi pokušaj prijevare funkcionira na način da korisnik zaprimi e-mail s adrese elektroničke pošte koja nalikuje ili je identična njihovoj, a u čijem se sadržaju navodi da je korisnik e-mail pretinca posjećivao, primjerice, pornografske stranice. Tom prilikom, upozoravaju prevaranti, korisnikovo se računalo zarazilo zloćudnim virusom pomoću kojeg je snimljeno korisnikovo pregledavanje pornografije pa prevarant obavještava žrtvu da će te fotografije ili videosnimke biti javno objavljene ako se u određenom vremenu ne uplati stanovit novac, najčešće neke kriptovalute, i to u online elektronički novčanik.
Algoritam predrasuda i diskriminacije
Čelnici Clearviewa su nakon što je skandal izbio u javnost obećali da neće prodavati nikakve podatke privatnim tvrtkama, no velike tvrtke poput Googlea, Facebooka, Twittera i YouTubea zatražile su od tvrtke da prekine tu svoju praksu. Pojedine američke savezne države poput New Jerseyja zabranile su državnim agencijama za provođenje zakona korištenje ovog biometrijskog sustava dok je švedska agencija za zaštitu osobnih podataka kaznila švedsku policiju zbog korištenja softvera s 250.000 eura kazne.
Uz to, švedska policija morala je implementirati jasno zadan zakonski okvir pravila i postupaka za to na koji način može legalno prikupljati i obrađivati osobne podatke. Pritom je policija morala osigurati to da policajci i ostale osobe zaposlene unutar policijskog sustava budu jasno upozoreni kako ne smiju koristiti Clearview AI.
O kontroverznoj aplikaciji ovih dana oglasili su se i Ujedinjeni narodi te su zatražili od svjetskih vlada da uvedu moratorij na prodaju i upotrebu sustava umjetne inteligencije koji predstavljaju opasnost za građanska i ljudska prava sve dok se ne uspostave prikladni mehanizmi njihove zaštite. UN je upozorio na to da slične aplikacije svojim zadanim algoritmima obrađuju osobne podatke vođene predrasudama jer su Googleovi podaci o pretraživanju učestalo prožeti diskriminacijom prema ženama i manjinama.
Europska komisija je u travnju predložila propise o upotrebi umjetne inteligencije koji se temelje na strožim kriterijima ako su opasnosti veće, a Europski parlament prošlog utorka otišao je korak dalje i predložio Europskoj komisiji da unaprijed zabrani umjetnu inteligenciju za korištenje socijalnog bodovanja koje je pokrenula Kina i prema čemu se ocjenjuje povjerenje građana na temelju njihova ponašanja.
