F*cked by Deepfake

Auteur: Ellen van Dalen

Blind vertrouwen op wat je ziet in de media is passé. Met deepfake video lijkt fictie akelig echt. Een gevaar voor de samenleving of gewoon leuk?

Begin het verhaal

Start verhaal

Wanna go deep? 17 kaarten

Or just highlights? 13 kaarten

Later lezen, mail een reminder

Later lezen

Je emailadres wordt eenmalig gebruikt om de link naar het verhaal te sturen. Je adres wordt niet opgeslagen.

HUH?! Hinkte je ook een seconde op twee gedachten?

Geef toe: het leek verder verdomd echt!

Je ziet de Amerikaanse president Trump, maar hoort de stem van Matthijs van Nieuwkerk.

Dit heet deepfake video. Een nieuwe manier om beeld te manipuleren.

De Wereld Draait Door, 9 november 2018, BNNVARA. Bron: Collectie Beeld & Geluid

Het bewerken van film en video gebeurt natuurlijk al jaren. En soms verdraaid goed. Zoals in de film Forrest Gump, waarin hoofdrolspeler Tom Hanks de Amerikaanse president J.F. Kennedy de hand schudt. Niks nieuws onder de zon, zou je denken...

Fragment uit Forrest Gump, David Fincher, 1994, Paramount Pictures. Bron: YouTube

Special effects kennen we uit Hollywood

Waar speelfilms worden geproduceerd met een miljoenenbudget. Fraaie fictie. Maar wanneer deze technologie wordt ingezet voor 'nieuws' items, wordt het toch een ander verhaal. Zo schrok de wereld wakker na het zien van deze video.

You Won’t Believe What Obama Says In This Video! , 17 april 2018, BuzzfeedVideo, Monkeypaw Productions. Bron: Youtube.

Fragment uit Tegenlicht

Hoogleraar Theo Gevers (UvA) doet onderzoek naar de technieken om deep fake video's te maken.

Voor het maken van zeer realistische video's heb je geavanceerde apparatuur nodig.

Tot nu toe hebben alleen grote universiteiten daar beschikking over.

Tegenlicht, 10 november 2018, VPRO. Bron: Collectie Beeld & Geluid

Toch kun je ook zelf aan de slag

Met Tensorflow bijvoorbeeld, de open source machine learning database van Google. Een Amerikaanse gebruiker van het populaire forum Reddit knutselde een filmpje in elkaar waarbij hij het gezicht van actrice Gal Gadot op het lichaam van een pornoactrice plakte.

Gal Gadot, foto: Gage Skidmore, 23 Juli 2016. Bron: Wikimedia Commons. Beschikbaar voor hergebruik onder CC BY-SA 3.0.

Celebrity ‘face-swap-porno’ werd een regelrechte hit

‘Deepfake’, het pseudoniem van de maker van dit filmpje, werd al snel de als algemene naam gebruikt voor dit soort nepvideo’s.

Emma Watson Fake tape shares on Reddit Virally, All About Emma Watson, 28 januari 2018. Bron: Youtube

In korte tijd circuleerden er op Reddit apps zoals Fake App waarmee je zelf makkelijk deepfake video's kunt maken. Soms met verbluffende resultaten, zoals in deze clip, die de dure special effects van Hollywood bijna evenaart. (Het bovenste beeld is het origineel).

Princess Leia CGI | Deepfakes Replacement, 27 januari 2018, Derpfakes. Bron: Youtube.

"Google gave the world powerful AI tools, and the world made porn with them"

Fake celebrity porn is de meeste populaire toepassing van de app, zoals de nieuwswebsite Quartz het zo mooi samenvat in bovenstaande kop. Binnen Reddit ontstaat zelfs een subreddit voor deepfake porn. Inmiddels heeft de site zijn regels aangescherpt: porno waarbij gezichten vervangen zijn, is expliciet verboden. De deepfake subreddit is gesloten en de apps zijn geblokkeerd.

Google gave the world powerful AI tools, and the world made porn with them, Dave Gershgorn, 7 februari 2018, Quartz. Bron: https://qz.com/1199850/

Youtube staat vol met deepfake tutorials

Als thuisgebruiker kun je nu nog geen echt mooi resultaat bereiken, maar hoe ontwikkelt de technologie zich verder?

Deepfake fakesapp tutorial, tech 4tress, 26 januari 2018. Bron: Youtube

Professor Hany Farid (Dartmouth College)

Deepfake Videos Are Getting Real and That’s a Problem, Moving Upstream, 15 oktober 2018. Bron: The Wallstreet Journal

Echt of niet? Maak jij je zorgen?

Hoe herken je deepfake video's?

Allereerst: gebruik je gezonde verstand. Als je denkt: dit kan niet, dan is het waarschijnlijk nep!

Fake rubber stamp (bewerking), SanFalko, 15 april 2013. Bron: Flickr.

It's in the details

Veel vertragingen, close-ups of special effects? Dat kunnen aanwijzingen zijn dat iets nep is. En let ook goed op details, zoals de handen van de man en vrouw in dit filmpje, daar is iets vreemds aan...

Everybody Dance Now, Caroline Chan, UC Berkeley, 22 augustus 2018. Bron: Youtube