U odluci 18. veljače Institut je zaključio da Facebookov algoritam pojačava rodne stereotipe prikazivanjem 'tipično ženskih zanimanja' većinom korisnicama u Nizozemskoj. Meta, vlasnik Facebooka, nije na odgovarajući način nadzirala ni prilagodila algoritam kako bi spriječila ovu diskriminaciju. CNN je također ranije otkrio da korisnici Facebooka u Europi propuštaju prilike za zapošljavanje zbog rodne pristranosti algoritma.

Godine 2023. međunarodna neprofitna organizacija Global Witness provela je istragu Facebookovih oglasa za posao u Nizozemskoj i još pet zemalja. Utvrđeno je da su oni često ciljali korisnike prema rodnim stereotipima. Naprimjer, oglasi za poslove mehaničara većinom su prikazivani muškarcima dok su oglasi za radna mjesta u vrtiću bili usmjereni ženama.

Istraga je potaknula četiri službene žalbe nizozemske organizacije Bureau Clara Wichmann i francuske organizacije Fondation des Femmes.

Institut je u svojoj odluci naveo da Meta Platforms Ireland Ltd., zadužena za Facebookove oglase u Europi, nije dokazala da njihov algoritam ne provodi zabranjenu rodnu diskriminaciju. Facebook mora prilagoditi svoj algoritam kako bi spriječio daljnju diskriminaciju, dodaje se u presudi.

Europska unija ima nekoliko direktiva koje zabranjuju diskriminaciju na temelju spola, uključujući onu u online oglašavanju.

Meta je priznala da algoritam koristi podatke o rodu, što može pridonijeti stereotipizaciji. Glasnogovornik tvrtke nije komentirao odluku Instituta, no prethodno su naveli da primjenjuju ograničenja ciljanja oglasa za zapošljavanje, stanovanje i uzimanje kredita u više od 40 europskih zemalja.

Berty Bannor iz Bureaua Clara Wichmann pozdravila je odluku Instituta, nazvavši je značajnim korakom za korisnike Facebooka u Nizozemskoj. 'Ovo je prvi korak prema dokazivanju da zakoni protiv diskriminacije vrijede jednako za velike tehnološke tvrtke kao i za offline svijet', rekla je Bannor.

Rosie Sharpe, zadužena za digitalne prijetnje u Global Witnessu, dodala je da odluka predstavlja važan iskorak u pozivanju velikih tehnoloških kompanija na odgovornost zbog utjecaja njihovih algoritama na ljude.

Iako odluka Instituta nije pravno obvezujuća, stručnjaci ističu da bi sud u slučaju eskalacije morao uzeti u obzir njegove nalaze. Nizozemski odvjetnik Anton Ekker napominje da bi presuda mogla dovesti do kazni koje bi izdala regulatorna tijela za zaštitu podataka ili do naloga za izmjene algoritama koji pojačavaju nejednakosti i štetno utječu na marginalizirane skupine.

Ako Meta ne poduzme mjere, nevladine organizacije mogle bi pokrenuti daljnje pravne postupke kako bi zaustavile diskriminatornu upotrebu algoritama.

Zaštita digitalnih prava, posebno žena i marginaliziranih skupina, sve je ugroženija, upozorava Bannor. Prošlog mjeseca Meta je najavila ukidanje svojih programa za raznolikost i inkluziju te promjene pravila o govoru mržnje na svojim platformama.