Ponarejena pornografija s slavnimi osebami je prepovedana na najboljšem spletnem mestu za ustvarjalce

Prejšnji teden smo objavili informacije o internetu zadnji neokusni virusni občutek; ponarejena, a izjemno prepričljiva pornografija slavnih.

Tako imenovani "deepfakes" posnamejo posnetke zvezd, kot sta Katy Perry in Scarlett Johansson, ter s pomočjo programske opreme AI in zmogljive grafične tehnologije naložijo obraze na telesa porno igralk.

Zdaj, in ne prej, se je začel odriv proti napredni tehnologiji zamenjave obrazov.

Gfycat je začel s svojih strežnikov odstranjevati vse deepfakeje - poimenovane po uporabniku Reddita, ki je lani populariziral - na veliko žalost ustvarjalcev.

»Naši pogoji storitve nam omogočajo, da odstranimo vsebino, ki se nam zdi sporna. To vsebino aktivno odstranjujemo, «je povedal Gfycat Matična plošča v izjavi.

Skupnost subredditov deepfakes je v torek začela opažati odstranitve in je razburjena zaradi "ciljne čiščenja" vsebine.

Minimalno tehnično znanje

Čeprav Gfycat ne prepoveduje pornografije, videoposnetki deepfakes zagotovo ne spadajo v pogoje storitve platforme.

Pravi, da se vsebina lahko odstrani, če je "krši kakršno koli intelektualno lastnino ali druge lastniške pravice katere koli stranke", ali je "nezakonita, škodljiva, grozi, zlorablja, nadleguje, deliktno, pretirano nasilno, obrekljivo, vulgarno, nespodobno, klevetniško, posega v tujo zasebnost, sovražno rasno, etnično ali kako drugače sporen. "

Sorodno: Razkrito je novo orodje VIRP CamSoda

Praksa se je v zadnjih tednih bolj razširila na Redditu, zahvaljujoč izdaji brezplačne namizne aplikacije FakeApp, ki omogoča ustvarjanje deepfakesov z minimalnim tehničnim znanjem.

"Mislim, da je trenutna različica aplikacije dober začetek, vendar upam, da jo bom še bolj racionaliziral v prihodnjih dneh in tednih," je dejal ustvarjalec aplikacije.

"Sčasoma ga želim izboljšati do te mere, da bodoči uporabniki lahko preprosto izberejo video v svojem računalniku in prenesejo nevronsko omrežje, povezano z določenim obrazom iz javno dostopne knjižnice, in videoposnetek zamenjajte z drugim obrazom s tiskom enega gumb. "