Falsk kändisporr är förbjuden från skaparnas bästa webbsajt

Förra veckan kom vi på internet senaste osmakliga virala sensationen; falsk, men ändå extremt övertygande, kändispornografi.

De så kallade “deepfakes” tar bilder av stjärnor som Katy Perry och Scarlett Johansson och använder AI-programvara och kraftfull grafikteknologi för att lägga ansikten på porrskådespelers kroppar.

Nu, och inte före tiden, har pushbacken mot den avancerade tekniken för ansiktsbyte börjat.

Gfycat har börjat ta bort alla deepfakes - uppkallade efter Reddit-användaren som populariserade vurm i december förra året - från sina servrar, till stor skam för skaparna.

”Våra användarvillkor gör det möjligt för oss att ta bort innehåll som vi tycker är stötande. Vi tar bort detta innehåll aktivt, berättade Gfycat Moderkort i ett påstående.

Deepfakes subreddit-community började märka borttagningarna på tisdag och är upprörda över den "riktade rensningen" av innehållet.

Minimal teknisk expertis

Medan Gfycat inte förbjuder pornografi, faller deepfakes-videorna verkligen utanför plattformens användarvillkor.

Det säger att innehållet kan tas bort om det "kränker immateriella rättigheter eller andra äganderättigheter för någon part" kan tas bort "eller är" olagligt, skadligt, hotande, kränkande, trakasserande, skadlig, överdrivet våldsam, ärekränkande, vulgär, obscen, ärekränkande, invaderande av andras integritet, hatsk ras, etniskt eller på annat sätt stötande."

Relaterad: CamSodas nya VIRP-verktyg avslöjat

Övningen har blivit mer utbredd på Reddit de senaste veckorna tack vare lanseringen av den kostnadsfria FakeApp-skrivbordsappen som gör det möjligt att skapa djupfakes med minimal teknisk expertis.

"Jag tycker att den aktuella versionen av appen är en bra start, men jag hoppas kunna effektivisera den ännu mer under de kommande dagarna och veckorna", sa appens skapare.

”Så småningom vill jag förbättra det till den punkt där potentiella användare helt enkelt kan välja en video på sin dator, ladda ner en neural nätverk korrelerat med ett visst ansikte från ett offentligt tillgängligt bibliotek, och byt videon med ett annat ansikte med en knapp."