IBM više neće nuditi višenamjenske sustave za prepoznavanje lica, rekao je IBM-ov izvršni direktor Arvind Krishna u pismu poslanom Kongresu. Kompanija također više neće ni razvijati tehnologiju, naglasio je Krishna u obraćanju senatorima Coryju Bookeru i Kamali Harris te predstavnicima Karen Bass, Hakeemu Jeffriesu i Jerroldu Nadleru.

Kraj jedne ere

'IBM se čvrsto protivi i ne podržava korištenje tehnologije za prepoznavanje lica, uključujući i onu koju nude drugi proizvođači, bilo ona za masovno nadgledanje, profiliranje rasa, kršenje osnovnih ljudskih prava i sloboda ili bilo koju namjenu koja se ne podudara s našim vrijednostima i principima povjerenja i transparentnosti' napisao je Krishna.

Podsjetimo, tehnologija o kojoj je riječ strahovito je napredovala tijekom prošlog desetljeća, dijelom zbog napretka u polju umjetne inteligencije. Sustavi za prepoznavanje lica su, u međuvremenu, zato jer su bili nuđeni privatnim kompanijama uz malo regulacije ili federalnog nadziranja, postali ozloglašeni zbog diskriminiranja dobi, rase ili narodnosti - stvari koje su plodno tlo za široku paletu kršenja ljudskih prava, naglašava The Verge.

Istraživanje iz 2018. kojeg su radili Joy Buolamwini i Timnit Gebru otkrilo je da je većina komercijalnih sustava za prepoznavanje lica bilo vrlo pristrano. Taj rad i još nekoliko studija pomogli su javnom stajalištu koje se sve više protivilo ovoj tehnologiji, kao i napretku u algoritmima koji su ovu grešku nastojali ispraviti.

Istraživanje koje je u 2019. sproveo National Institute of Standards and Technology otkrio je 'empirijske dokaze o postojanju širokog spektra preciznosti kod različitih rasa u sklopu algoritama za prepoznavanje lica'.

Neprecizna studija i budućnost tehnologije

Problem je, doduše, što NIST-ova studija nije pokrila tehnologiju koja dolazi iz Amazona, kompanije koja jako puno novca zarađuje na uređajima i tehnologiji za prepoznavanje lica koje je nerijetko prodavala policiji. Nakon što se na više konkretnih primjera pokazalo da je tehnologija za prepoznavanje lica nerijetko neprecizna, IBM je pokušao popraviti situaciju objavom javnih informacija koje su trebale dokazati da se tehnologija trenira na ljudima različitih rasa, no kasnije je završio na sudu zato jer je za testiranje svojeg sustava koristio oko milijun lica s fotografija objavljenih na Flickru (iako su iste bile pod licencom Creative Commons, što znači da ih se može besplatno koristiti sve dok se na njima ne zarađuje).

Krishna je u svojem pismu također spomenuo policijsku reformu, naglasivši da se slučajevi policijskog nasilja trebaju povući u federalne tužbe te da Kongres mora mijenjati zakone o njihovoj pravnoj imunosti. IBM-ov direktor je za kraj rekao da 'moramo stvoriti otvorenije i ravnopravnije načine na koje svi Amerikanci mogu steći vještine i poduku koje će im pomoći u karijeri'.