Civitai, internetska tržnica za AI modele, upravo je predstavila novu značajku nazvanu bounties kako bi potaknula zajednicu da razvije prihvatljive deepfakeove stvarnih ljudi, izvještava 404 Media. Tko god smisli najbolji AI model, dobiva virtualnu valutu pod nazivom 'Buzz' koju korisnici mogu kupiti stvarnim novcem.

Mnoge nagrade objavljene na stranici od korisnika traže da rekreiraju lik slavnih ili utjecajnih osoba na društvenim mrežama, od kojih su većina žene. Izvješće također lavovski dio ovih rezultata navodi kao 'seksualizirane slike bez pristanka'. Riječ je o stvari koja se internetom širi godinama, no umjetna inteligencija omogućuje realističnije rezultate. 404 Media je također pronašao zahtjeve za privatne osobe bez značajnije online prisutnosti, što cijelu stvar čini još jezivijom.

'Jako se bojim što bi ovo moglo postati,' rekla je za 404 Media Michele Alves, Instagram influencerica koju je Civitai izabrao kao 'metu' za jedan od bountyja. 'Ne znam koje bih mjere mogao poduzeti, budući da se internet čini kao mjesto izvan kontrole.'

Prema tržišnoj tvrtki Andreessen Horowitz, Civitai je trenutno sedma najpopularnija generativna AI platforma. Zaposlenicima 404 Media trebalo je malo vremena da pronađu slike poslane putem zahtjeva za bounty koje ciljaju privatnu osobu sa samo nekoliko pratitelja na društvenoj mreži. Osoba koja je objavila bounty napisala je kako je osoba čiji se deepfake traži njegova žena, no računi na društvenim mrežama mreži tvrdili su drukčije.

Jedan korisnik Civitaija odbio je nagradu uz obrazloženje da 'izbjegava pravne probleme u budućnosti'. U tu svrhu, Virginia je upravo ažurirala svoje zakone o osvetničkoj pornografiji kako bi kreatore deekfakea kaznila s do jednom godinom zatvora. Ipak, ovaj konkretni zahtjev bio je ispunjen te je slika bila objavljena na stranici, premda nije bila seksualne prirode, piše Engadget.

Vrlo malo zahtjeva za nagradu izričito navodi da poster traži seksualni materijal, izražavajući zahtjev nejasnim jezikom. Neki, međutim, ne okolišaju te koriste izraze poput 'degeneriranog zahtjeva' zajedno s komentarima o veličini ženskih grudi. Civitai, s druge strane, kaže da se te nagrade ne bi trebale koristiti za stvaranje seksualnih slika stvarnih ljudi koje generira umjetna inteligencija - bez njihovog pristanka.

Na stranici su, unatoč sugestiji, dopuštene seksualne slike javnih osoba i neseksualne slike običnih ljudi. 404 Media naglašava da tvrtkin alat za pretvaranje teksta u sliku može stvoriti seksualne slike stvarnih osoba bez pristanka 'u nekoliko sekundi'.