Artemis može prepoznati specifične riječi i obrasce govora te označiti sumnjive poruke kako bi ih ljudi moderatori mogli pregledati i provjeriti pa odlučiti hoće li pozvati policiju ili druge nadležne službe
Microsoft je objavio novi alat za prepoznavanje ljudi koji vrebaju djecu online kako bi ih seksualno zlostavljali tijekom brbljanja online. Konkretno, specijaliziran je za otkrivanja ponašanja poznatog pod skupnim nazivom grooming.
Što je grooming?
Grooming je izraz koji opisuje uspostavljanje odnosa povjerenja i emocionalne veze između djeteta i (najčešće) odrasle osobe putem komunikacijskih tehnologija, s ciljem vrbovanja i iskorištavanja maloljetne osobe u seksualne svrhe.
Projekt Artemis, temeljen na tehnologiji koju su u Microsoftu koristili za igraću konzolu Xbox, od sad je dostupan i drugim tvrtkama koje raspolažu platformama za chat.
Artemis može prepoznati specifične riječi i obrasce govora te označiti sumnjive poruke kako bi ih ljudi moderatori mogli pregledati i provjeriti pa odlučiti hoće li pozvati policiju ili druge nadležne službe. Naiđe li moderator na zahtjev za seksualnu zlorabu djece ili slike takvog sadržaja obavijestit će američku instituciju National Center for Missing and Exploited Children.
Moguće zlostavljanje nije lako uočiti
Microsoft nije jedini s problemima vezanim uz vrebanje i zlostavljanje djece na platformama za brbljanje. S time se susreće praktično svaka tvrtka koja nudi takvu uslugu, od Facebooka pa dalje. Ali, nema puno tvrtki koje raspolažu s toliko podataka o svojim korisnicima koliko ih ima najveća društvena mreža svijeta.
Microsoftov alat mogao bi tim tvrtkama u tom smislu biti koristan, ali i pomoći u uspostavljanju standarda za otkrivanje i praćenje ponašanja vrebača zlostavljača, što bi moglo poslužiti za razvoj budućih alata.
izvjesna budućnost
Tehnološki napredak je nazaustavljiv: Evo što će nam se sve dogoditi do 2030. godine
Moguće zlostavljanje djece nije lako uočiti jer razgovor online može imati ogroman broj nijansi, a predatori mogu skrenuti razgovor u neprimjerene vode nakon samo pola sata interakcije. Također, nastojat će izolirati dijete i pratiti ga na više različitih platformi, tražiti fotografije i video zapise seksualno eksplicitnog sadržaja, prijetiti ucjenama...
Artemis je u razvoju više od 14 mjeseci, od studenog 2018. godine kada je debitirao tijekom natjecanja 360 Cross-Industry Hackathon. Na čelu razvojnog tima je Hany Farid, sveučilišni profesor koji je osmislio alat PhotoDNA, namijenjen otkrivanju i prijavljivanju slika seksualnog iskorištavanja djece postavljenih online.
Artemis trenutno funkcionira samo na engleskom jeziku, ali tvrtke će ga moći prilagođavati za vlastite publike, piše Verge.
