U Instagramu su počeli koristiti novu tehnologiju koja može otkriti zlostavljanje online na fotografijama pomoću umjetne inteligencije.

Kako je objavio Adam Mosseri, novi šef Instagrama i bivši Facebookov direktor za News Feed, ta društvena mreža počela je koristiti strojno učenje kako bi proaktivno otkrila zlostavljanje (bullying) na fotografijama i u njihovim opisima te na njih upozoravala ljude zaposlene u timu Community Operations.

U Facebooku, u čijem je Instagram vlasništvu,nedavno su također predstavili vlastite alate protiv zlostavljanja, koji uključuju mogućnost uklanjanja nepoćudnih komentara iz feedova brisanjem ili skrivanjem više njih odjednom, kao i prijavljivanje u ime žrtve.

U najvećoj društvenoj mreži svijeta također koriste tehnologije za otkrivanje govora mržnje u slikama, što je iniciralo svojevrsnu utrku u naoružanju između te tvrtke i onih koji objavljuju materijale koji nisu u skladu s Facebookovim pravilima i smjernicama.

Novi Instagramov alat umjetnu inteligenciju koristi za kontekstualizaciju slika i označavanje nepoćudnog sadržaja. Tako, primjerice, može prepoznati kad je na usporednoj slici druga osoba prikazana na negativan način, tvrde u toj društvenoj mreži.

Cilj je prepoznati i blokirati zlostavljanje, a na meti su objave koje mnogi na Instagramu vide ili su njihove žrtve, ali ih ne prijavljuju.

Najavljeno je i proširenje filtera za zlostavljačke komentare koje će od sad pregledavati komentare tijekom prijenosa videa uživo, kao i nova značajka Kindness Camera Effect, koja bi trebala suzbijati širenje negativnosti na Instagramu time što će poticati davanje podrške drugima putem ohrabrujućih komentara i filtera.

Zaštitno lice značajke je plesačica Maddie Ziegler, poznata kao zagovornica borbe protiv bullyinga. Ako ju pratite na Instagramu značajka Kindness Camera Effect bit će vam automatski uključena, dok će ostali morati ju aktivirati kuckanjem na dugme try it, piše NBC.