AI falsk porr är det senaste på internet som behöver försvinna

Kommer du ihåg på 1990-talet när Daily Sport (påstås) fotograferade kändishuvud på kropparna på modellerna, bara för att ge upprördhet över de falska snapsna?

Tja, 2018-versionen av det är AI-pornografi och det går lite längre. Och med det menar vi alldeles för långt.

Deepfakes är pornografiska videor med skådespelerskorna ansikte ersatta av en kändis och det finns en hel Reddit-tråd tillägnad dem med 15 000 prenumeranter.

De avancerade ansiktsbytesfilmerna har tagit befintliga bilder av kändisar som Daisy Ridley, Katy Perry och Taylor Swift och använder maskininlärningsalgoritmer, skräddarsydd programvara och en topp GPU för att skapa det verklighetstrogna förfalskningar.

Relaterad: CamSodas nya VIRP-verktyg avslöjat

Deepfakes har fått sitt namn efter upphovsmännens Reddit-profil och får ett nytt liv efter att en affisch publicerade FakeApp, en gratis och lättanvänd skrivbordsapplikation.

Skaparen av appen berättade Moderkort de planerar att förbättra appen så att den fungerar med bara en knapptryckning.

"Jag tycker att den aktuella versionen av appen är en bra start, men jag hoppas kunna effektivisera den ännu mer under de kommande dagarna och veckorna", sa de.

”Så småningom vill jag förbättra det till den punkt där potentiella användare helt enkelt kan välja en video på sin dator, ladda ner en neural nätverk korrelerat till ett visst ansikte från ett offentligt tillgängligt bibliotek, och byt ut videon med ett annat ansikte med en knapp."

Videoklippen är inte begränsade till kändisar, Reddit-affischer frågar om att skapa förfalskningar med deras krossar istället.

Svårare att upptäcka förfalskningarna

Oroande kanske videoklippen blir så bra att det blir svårare och svårare att se skillnaden mellan falska och riktiga videor.

Deborah Johnson, emeritus professor i tillämpad etik vid University of Virginia, sa till moderkortet: ”Du kan argumentera för att det som är nytt är i vilken utsträckning det kan göras, eller trovärdigheten, kommer vi till den punkt där vi inte kan skilja vad som är verkligt - men då gjorde vi inte innan.

”Det nya är det faktum att det nu är tillgängligt för alla, eller kommer att vara... Det är destabiliserande. Hela affären med tillit och tillförlitlighet undermineras av dessa saker. ”

Verktygets potentiella användningsområden är skrämmande att tänka på, långt bortom pornografi. Det finns oro över om det kan användas för att utpressa eller skapa falska bevis mot oskyldiga människor.

Hur ser du på Deepfakes? Dela det med oss ​​@TrustedReviews på Twitter.