Deepfake - Prof. Dr. Norbert Pohlmann

Was ist eine Deepfake?

Deepfake
Bei Deepfake werden vorwiegend dynamische Medien wie Audio- oder Video-Sequenzen so manipuliert, dass es für Menschen, die keine versierten Experten sind, so erscheint, als wären diese Aufnahmen echt/original.

Das Ziel von Deepfake ist unter anderem, es so aussehen zu lassen, dass eine Person in einer Audio- und Video-Sequenz etwas sagt und/oder tut, was diese nicht gesagt und/oder getan hat. Dadurch lässt sich zum Beispiel ermöglichen, Individuen oder ganze Personengruppen zu diffamieren oder zu Gewalttaten aufzurufen beziehungsweise Chaos zu stiften.

Da Entwickler die Medien mithilfe von Deep Learning-Verfahren bearbeiten oder entsprechend generieren, verwenden sie dafür den Name Deepfake (Deep Fake): Eine Zusammensetzung aus „Deep Learning“ – hochwertige Methoden des maschinellen Lernens – und dem englischen Begriff für Fälschung oder Schwindel „Fake“.

Entwickler nutzen die Technik, um mit bildgenerierende Systeme mithilfe von Deep Learning Videos zu erzeugen. Obwohl sie die Technik ursprünglich für die Filmindustrie entwickelten, setzten Menschen sie heute auch für positive Zwecke ein, eben zum Beispiel in der Filmindustrie.

Welche Angriffsmethoden lassen sich mit Deepfake umsetzen?

1. Angriff mit gefälschter Personen-Identität durch die Manipulation von Videos

Es gibt verschiedene – auf Deep Learning basierte – Verfahren, unter deren Einsatz es möglich ist Videos zu manipulieren. Zum Beispiel können sie Gesichter austauschen (Face Swapping), um ein bestimmtes Ziel zu erreichen. Bei einem entsprechenden Angriff ist somit die Idee, dass der Angreifer entweder der Zielperson in einem bereits existierenden Video „neue Worte in den Mund legt“ oder in einem neu erstellten Video ein Gesicht (zum Beispiel von einer Person in einer Veranstaltung) oder alternativ das eigene, durch das der Zielperson ersetzt.

Bei modernen Deep Learning Verfahren bedarf es nur weniger Minuten an Videomaterial der Zielperson, um das KI-System zu trainieren. Dadurch kann der Angreifer (seine gewünschten) Aussagen erzeugen, sodass der Betrachter glaubt, dass die Zielperson diese selbst tätigt.

2. Angriff mit gefälschter Stimme

Manipulation von Texten

Hierzu verwenden Angreifer zum Beispiel Text-to-Speech Verfahren. Diese Verfahren erzeugen aus einer vorhandenen Textdatei ein Audio-Signal. Für einen Angriff greifen sie auf spezifische Charakteristika einer Zielperson zurück, etwa Dialekte oder eine besondere Betonung, und erzeugen damit das Audio-Signal, das sich wie die Zielperson anhört. Mit dieser Angriffsmethode können Angreifer sowohl Menschen als auch Spracherkennungsverfahren täuschen. Beim „Voice-Conversion“ wird als Input ein Audio-Signal des Angreifers verwendet – dieses wird dabei so konvertiert, dass es dem Audio-Signal der Zielperson hundertprozentig entspricht. Auch bei diesem Verfahren werden Trainingsdaten – in diesem Fall Audiomaterial – der Zielperson benötig, damit das KI-System die Aufgabe umsetzen kann.

3. Angriff mit gefälschten Texten

Bei diesem Angriff generieren KI-Systeme auf Basis von Texten einer Zielperson neue Texte, die so plausibel sind, dass sie von der Zielperson stammen könnten. Angreifer können diese dann verwenden, um eine Person zu bestimmten Handlungen zu motivieren. Für diesem Angriff können zum Beispiel Social Media-Plattformen verwendet werden – zum einen, um hier Informationen über die Zielperson zu generieren und zum anderen, um einen Angriff auf eine Person durchzuführen.

Mögliche Angriffsszenarien von Deepfake

Mit den verschiedenen Angriffsmethoden ist es relativ einfach möglich, mediale Identitäten und deren Inhalte zu manipulieren. Im Folgenden werden einige dargestellt:

Social Engineering:
Deepfake-Verfahren können genutzt werden, um gezielte Phishing-Angriffe oder auch Spear-Phishing / Whaling durchzuführen. Personen werden dadurch manipuliert, etwas zu tun, was sie im Regelfall nicht machen würden. Dazu werden unter anderem über Social Media-Kanäle Informationen zur Zielperson – etwa den CEO – zusammengetragen, um über notwendige Angaben zu verfügen. Beispielsweise den aktuellen Aufenthaltsort und/oder der Grund einer Dienstreise. So lässt sich ein CEO-Fraud durchführen: Der Angreifer ruft bei dem Unternehmen des CEO an – dass er dies mit der gefälschten Stimme des CEO tut, versetzt ihn in die Lage, eine Geldtransaktion auszulösen, die er dann auf ein beliebiges Konto überführen kann.

Desinformationskampagnen:
Hier können auf Basis von Deepfakes von Schlüsselpersonen – zum Beispiel Politikern – mit gefälschten Medieninhalten Desinformationskampagnen durchgeführt werden, mit dem Ziel Individuen, Personengruppen oder Gesellschaften zu beeinflussen. Dadurch können Angreifer zum Beispiel Aktienkurse manipulieren, dem Image von Produkten schädigen oder die Reputation von Unternehmen beschädigen. Zudem lässt sich auch das Wahlverhalten von Bürgern auf diese Weise beeinflussen, insbesondere wenn sie die Deepfakes mittels intelligenter Methoden über Social Media-Kanäle verbreiten. Deepfake kann auch als Kriegsmittel verwendet werden.

Überwindung biometrischer Systeme:
Mithilfe von Deepfake ist es möglich, mediale Inhalte mit den Charakteristika einer Zielperson zu erstellen und in Echtzeit zu nutzen. Dadurch können biometrische Systeme manipuliert beziehungsweise überwunden werden. Die potenziellen Schäden, die bei der Überwindung biometrischer Systeme entstehen können, sind sehr hoch.

Verleumdung/Verunglimpfung/Diffamierung:
Da es mit Deepfake möglich ist, eine Person beliebige (beispielsweise gesellschaftlich nicht tolerierte) Aussagen treffen zu lassen, kann durch die Verbreitung von Unwahrheiten der Ruf dieser Person nachhaltig geschädigt werden. Siehe auch: Cyber-Mobbing

Bewertung von Deepfakes

Da das Erkennen von Deepfake nicht trivial ist, stellen diese ein sehr großes Risiko dar.

Beispiel eines Deepfake-Videos

Da im Prinzip nur ausgewiesene Experten ein Deepfake-Video von einem echten Video unterscheiden können, ist es möglich, alle anderen Menschen mit diesem zu täuschen oder zu manipulieren.
Ein manipuliertes Video (Deepfake-Video) von bekannten Persönlichkeiten wie etwa Barack Obama ist sehr gut geeignet, Individuen oder bestimmte Personengruppen zu diffamieren oder auch zu Gewalttaten aufrufen und Chaos zu stiften. Allein aufgrund der Tatsache, dass den Aussagen bestimmter Persönlichkeiten eine höhere Autorität und auch Glaubwürdigkeit beigemessen wird, erhöht die Wirkung.    

Weitere Informationen zum Begriff “Deepfake”:

„Fake-News in Sozialen Netzwerken – Das „Mitmach-Web“ hat seine Unschuld (endgültig) verloren“

„Influence of security mechanisms on quality of service with VoIP“

„Trust as a Service – Vertrauen als Dienstleistung – Validierung digitaler Nachweise mit der Blockchain“

„Menschliche Basis fürs Business – Mechanismen zur Vertrauensbildung“

„Biometrie – Bessere Identifikation, sichere Authentisierung“

„Aktivierung von Smartcards durch Biometrie“

„Lehrbuch Cyber-Sicherheit“

„Übungsaufgaben und Ergebnisse zum Lehrbuch Cyber-Sicherheit“

„Bücher im Bereich Cyber-Sicherheit und IT-Sicherheit zum kostenlosen Download“

„Vorlesungen zum Lehrbuch Cyber-Sicherheit“

„Zukunftsforum IT-Management“

„Firewall – State of the art“

„SPHINX – Standard MailTrusT im Praxistest“

„Sicherheit in verteilten Netzwerken“

„Forschungsinstitut für Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“

„Master-Studiengang Internet-Sicherheit (IT-Sicherheit, Cyber-Sicherheit)“

„Marktplatz IT-Sicherheit“

„Marktplatz IT-Sicherheit: IT-Notfall“

„Marktplatz IT-Sicherheit: IT-Sicherheitstools“

„Marktplatz IT-Sicherheit: Selbstlernangebot“

„Marktplatz IT-Sicherheit: Köpfe der IT-Sicherheit“

„Vertrauenswürdigkeits-Plattform“

Summary

Article Name

Deepfake

Description

Deepfake sind mithilfe von künstlicher Intelligenz erstellte Audio- oder Video-Sequenzen, mit denen überzeugend Menschen getäuscht und manipuliert werden. Nur Experte können ein Deepfake von einem echten Medium unterscheiden.

Author

Prof. Norbert Pohlmann

Publisher Name

Institut für Internet-Sicherheit – if(is)

Publisher Logo