Es werden Aufnahmen von Frauen in Sex-Fotos oder gar Pornovideos integriert, es werden Videos von Politikern gefälscht oder Interviews von Wirtschaftsmanagern und Firmenchefs manipuliert. Deepfakes werden zum riesigen Problem, Experten sprechen bereits von einem „Moore’s Law for deepfakes“. Laut einer aktuellen Analyse des niederländischen IT-Startups Deeptrace gibt es gegenwärtig 49.081 Fake-Videos im Web – das ist mehr als eine Verdreifachung innerhalb eines Jahres! (14.678 waren es im Juni 2019). Deeptrace hat sich auf die Detektion von Deepfakes spezialisiert mit dem Ziel, Methoden zur Erkennung von Deepfakes zu entwickeln, um künftig Rufmord besser bekämpfen zu können.

Plötzlich spielt man in einem Porno mit

Als Deepfakes werden einerseits Videos bezeichnet, die manipuliert, verändert oder auch der Text bzw. Ton verändert wurden, andererseits sind Deepfakes auch Videos, bei denen das Gesicht eines Menschen auf das Original montiert wird. Dabei kopieren Cyberkriminelle Fotos (meistens aus Social Media-Plattformen wie Facebook oder Instagram) und benutzen diese – vor allem Frauen sind Opfer dieser Methode – für so genanntes „Face Swapping“. Die Australierin Noelle Martin wurde Opfer dieses Face Swapping und spielte plötzlich die Hauptrolle in zwei Pornoclips. Martin – sie kämpft in der Zwischenzeit für Frauenrechte – ist überzeugt, dass es Tausende Frauen gibt, die auf die gleiche Art verunglimpft wurden/werden, aber davon nichts wissen.

Derzeit sind zwar vor allem Schauspieler von Deepfakes betroffen, wie etwa Emma Watson oder Megan Fox (im Porno-Deepfake-Bereich), aber es kommen immer mehr Privatpersonen, Politiker und Wirtschaftsmanager hinzu – etwa 4000 Deepfakes betreffen gefälsche Videos von Politikern oder Wirtschaftsmanagern. Bekannt sind die (manipulierten) Videos, in denen Barack Obama Trump als „Vollidiot“ bezeichnet, bzw. die Sprecherin des US-Repräsentantenhauses, Nancy Pelosi, volltrunken oder einen verwirrten Eindruck erwecken soll.

Die Technologie hinter Deepfakes

Die Technologie, die dieses Face-Swapping in Videos möglich macht, wurde erstmals 2014 erwähnt, seither boomen die Projekte. Konkret werden bei den verschiedensten Programmen Techniken verwendet, die auf dem sogenannten „Generative Adversarial Network“ (GAN) basieren. GAN generiert aus bestehenden Datensätzen neue. Das heißt: Mithilfe von Machine Learning werden auf Basis von bestehenden Daten neue Daten, etwa auditive oder visuelle Imitationen, kreiert.

Viele glauben, was sie sehen

Deepfakes werden in den kommenden Jahren ein riesiges Problem – nicht nur deshalb, weil damit Menschen verunglimpft werden, sondern auch deshalb, weil viele Menschen (Stichwort Fakenews) mit solchen Deepfakes manipuliert werden. Viele glauben das, was sie sehen und hinterfragen nicht, ob das, was sie sehen, auch echt ist oder wahr sein kann. Hinzu kommt – Software, mit denen man das Gesicht einer Person in ein Video integrieren kann, gibt es mittlerweile nicht nur zu Hauf, sondern kann mittlerweile sehr einfach bedient werden. Und es gibt bereits viele Apps, mit denen Deepfakes mit dem Smartphone erzeugt werden können.

Wie funktionieren und wie erfolgreich sind „Audio Deepfakes“? Wie erkennt man Deepfakes? Wie beeinflussen Deepfakes die Politik und warum wird Mark Zuckerberg ein großes Deepfake-Problem bekommen? Das und einiges mehr lesen Sie im Buch „Internet of Crimes“.