Was ist ein Deepfake? Wie kann man deepfaken und sich schützen (2024)

Seit vielen Jahrzehnten versuchen Filmemacher, die menschliche Biologie mit Make-up, Prothesen und Körperdoubles zu verändern oder zu verbessern, um ihre Szenen authentischer wirken zu lassen. Bis zur Einführung der modernen visuellen Effekte (VFX) waren die Ergebnisse jedoch sehr unterschiedlich. Von Filmen wie The Irishman und Captain Marvel bis hin zu Avengers: Endgame: VFX ermöglicht es den Darstellern, physische Unmöglichkeiten zu überwinden. Manchmal erlaubt Hollywood VFX den Filmemachern, das Gesicht von Schauspielern mit den Körpern anderer Darsteller für Rollen zu verschmelzen, für die sie nicht bereit oder in der Lage sind.

Aber wie Sie sich vorstellen können, ist die moderne Hollywood-VFX-Technologie eine teure, heikle und detaillierte Arbeit. Natürlich hat nicht jeder ein Budget von ein paar hundert Millionen USD, um ein VFX-Studio zu beauftragen. An dieser Stelle kommt die Deepfake-Technologie ins Spiel.

Was ist ein Deepfake? Eine Definition

Ein "Deepfake" bezieht sich auf nachgebildete Medien des Aussehens und/oder der Stimme einer Person durch eine Art von künstlicher Intelligenz namens Deep Learning (daher der Name Deepfake). Ein Reddit-Nutzer, der Deepfakes auf der Website teilte, prägte den Begriff 2017.

Deepfakes sind in der Regel gefälschte Bilder, Videos oder Audioaufnahmen. Vielleicht haben Sie schon einmal Videos gesehen, in denen Prominente oder Politiker etwas sagen, was sie im wirklichen Leben wahrscheinlich nicht sagen würden. Dies sind gängige Beispiele für Deepfakes. Das Aufkommen von Deepfake-Videos gibt Anlass zur Sorge über eine mögliche "Lügendividende", bei der sich Fehlinformationen verbreiten, das Vertrauen untergraben und die Realität verzerren.

Wie funktionieren die Deepfakes?

Die Deepfake-Technologie nutzt hochentwickelte künstliche Intelligenz durch generative adversarische Netzwerke (GANs), die zwei entscheidende Algorithmen umfassen: den Generator und den Diskriminator. Der Generator leitet den Prozess ein, indem er anhand eines Trainingsdatensatzes die ersten gefälschten Inhalte auf der Grundlage eines gewünschten Ergebnisses erstellt. In der Zwischenzeit bewertet der Diskriminator die Authentizität dieser Inhalte und zeigt Bereiche mit Verbesserungsbedarf auf. Durch diesen iterativen Prozess kann der Generator seine Fähigkeit verbessern, immer realistischere Inhalte zu produzieren, während der Diskriminator besser darin wird, Unstimmigkeiten zu erkennen und zu korrigieren.

GANs spielen eine zentrale Rolle bei der Erstellung von Deepfakes, indem sie Muster in echten Bildern analysieren, um diese Muster in gefälschten Inhalten zu replizieren. Bei Fotos untersuchen GAN-Systeme mehrere Blickwinkel der Bilder der Zielperson, um umfassende Details zu erfassen. Bei Videos analysieren sie nicht nur die Blickwinkel, sondern auch das Verhalten, die Bewegung und die Sprachmuster. Diese vielschichtige Analyse durchläuft zahlreiche Iterationen durch den Diskriminator, um den Realismus des Endprodukts zu verfeinern.

Deepfake-Videos entstehen in erster Linie durch zwei Methoden: Manipulation eines Originalvideos, um zu ändern, was die Zielperson sagt oder tut (Quellvideo-Deepfakes), oder Austausch des Gesichts der Zielperson gegen den Körper einer anderen Person (Face Swaps). Bei Deepfakes von Quellvideos wird ein auf einem neuronalen Netzwerk basierender Autoencoder eingesetzt, der das Video analysiert, um die Mimik und Körpersprache der Zielperson zu verstehen und dann über das Originalmaterial zu legen. Bei Audioaufnahmen wird mit einem ähnlichen Verfahren die Stimme einer Person geklont, so dass jede beliebige Sprache nachgeahmt werden kann.

Sind Deepfakes legal?

Im Grunde sind Deepfakes nicht per se illegal; die Legalität hängt weitgehend von ihrem Inhalt und ihrer Absicht ab. Diese innovative Technologie kann sich auf rechtswidriges Terrain begeben, wenn sie gegen bestehende Gesetze über Kinderp*rnografie, Verleumdung, Hassreden oder andere kriminelle Aktivitäten verstößt.

Bislang gibt es nur wenige Gesetze, die speziell auf Deepfakes abzielen, und sie unterscheiden sich von Land zu Land erheblich. Die Verbreitung der Deepfake-Technologie gibt jedoch Anlass zur Sorge über die Verbreitung falscher Behauptungen und deren Auswirkungen auf das öffentliche Vertrauen und den öffentlichen Diskurs. Es gibt bereits bemerkenswerte Ausnahmen in den Vereinigten Staaten, wo einige Staaten Maßnahmen ergriffen haben, um die schädlichen Auswirkungen der Deepfake-Technologie einzudämmen:

Texas: Dieser Bundesstaat hat ein Gesetz erlassen, das die Erstellung und Verbreitung von Deepfakes mit dem Ziel der Wahlbeeinflussung verbietet. Mit diesem Schritt soll die Integrität des Wahlprozesses geschützt werden, indem die Verbreitung irreführender oder falscher Informationen über Kandidaten durch hyperrealistische gefälschte Videos oder Audioaufnahmen verhindert wird. Darüber hinaus hat Texas ein Gesetz verabschiedet, das speziell auf sexuell eindeutige Deepfakes abzielt, die ohne die Zustimmung der Betroffenen verbreitet werden, um Personen vor dem Leid oder der Peinlichkeit zu schützen, die durch solche Inhalte verursacht werden. Beide Straftaten werden als Vergehen der Klasse A behandelt, die mit bis zu einem Jahr Gefängnis und Geldstrafen von bis zu 4.000 Dollargeahndet werden können.
Virginia: In Anerkennung des persönlichen und gesellschaftlichen Schadens, der durch Deepfake-p*rnografie verursacht wird, hat Virginia die Verbreitung solcher Inhalte ausdrücklich verboten. Dieses Gesetz zielt auf Deepfakes ab, mit denen Personen ohne ihre Zustimmung sexuell ausgebeutet werden, und bietet den Opfern eine rechtliche Handhabe, um Gerechtigkeit zu erlangen. Die Verbreitung von Rache-p*rnografie, einschließlich Deepfake-p*rnografie, wird als Vergehen der Klasse 1 eingestuft, das mit bis zu 12 Monaten Gefängnis und einer Geldstrafe von bis zu 2.500 Dollar geahndet werden kann.
Kalifornien: Mit Blick auf die politischen und persönlichen Auswirkungen von Deepfakes hat Kalifornien Gesetze gegen die Verwendung von Deepfakes erlassen, die darauf abzielen, Wähler innerhalb von 60 Tagen vor einer Wahl zu täuschen. Darüber hinaus hat der Bundesstaat die Erstellung und Verbreitung von Deepfake-p*rnografie ohne Einwilligung verboten und spiegelt damit die wachsende Besorgnis über den Einsatz dieser Technologie zur Verletzung der Privatsphäre und der Würde des Einzelnen wider.

Der Flickenteppich an Vorschriften unterstreicht eine umfassendere Herausforderung: Viele Menschen sind sich der Deepfake-Technologie, ihrer möglichen Anwendungen und der damit verbundenen Risiken nicht bewusst. Diese Lücke im Bewusstsein trägt zu einem rechtlichen Umfeld bei, in dem Opfer von Deepfakes außerhalb spezifischer Szenarien, die von staatlichen Gesetzen abgedeckt werden, oft ohne klare rechtliche Handhabe dastehen. Die sich entwickelnde Natur der Deepfake-Technologie und ihre Auswirkungen erfordern eine besser informierte Öffentlichkeit sowie einen umfassenden rechtlichen Rahmen, um Einzelpersonen vor ihrem potenziellen Missbrauch zu schützen.

Wie gefährlich sind Deepfakes?

Die Deepfake-Technologie ist zwar innovativ, birgt aber auch erhebliche Risiken. Es geht nicht nur um die Erstellung falscher Bilder oder Videos; die Auswirkungen reichen bis in ernsthafte Bereiche wie z. B.:

Persönliche Sicherheit, da Einzelpersonen mit Erpressung bedroht werden.
Die Integrität der demokratischen Prozesse durch die Fabrikation irreführender politischer Inhalte.
Die Finanzmärkte sind anfällig für Manipulationen durch gefälschte Berichte.
Identity Diebstahl mit dem Risiko des Missbrauchs personenbezogener Daten.

Die sich entwickelnde Landschaft erfordert eine robuste Reaktion, die Wachsamkeit, technologische Lösungen und rechtliche Rahmenbedingungen zum Schutz vor diesen neuen Bedrohungen kombiniert.

Wie erkennt man Deepfakes?

Um gefälschte Inhalte zu erkennen, muss man auf bestimmte visuelle und textliche Indikatoren achten. Hier sind einige wichtige Anzeichen, auf die Sie achten sollten:

Visuelle Indikatoren:

Wie kann man sich gegen Deepfakes schützen?

Eine wichtige Strategie zur Abwehr von Deepfakes ist der Einsatz fortschrittlicher Technologien zur Erkennung und Blockierung dieser gefälschten Medien.

Regierungsbehörden wie die Defense Advanced Research Projects Agency (DARPA) des US-Verteidigungsministeriums stehen an vorderster Front und entwickeln hochmoderne Lösungen, um echte von manipulierten Inhalten zu unterscheiden. Auch die Giganten der sozialen Medien und Technologieunternehmen setzen innovative Methoden ein, um die Authentizität der auf ihren Plattformen geteilten Medien zu gewährleisten.

Einige Plattformen nutzen beispielsweise die Blockchain-Technologie, um die Herkunft von Videos und Bildern zu überprüfen, vertrauenswürdige Quellen zu ermitteln und die Verbreitung von gefälschten Inhalten wirksam zu verhindern.

Umsetzung von Richtlinien für soziale Medien

Angesichts des potenziellen Schadens, der durch böswillige Deepfakes verursacht wird, haben soziale Medienplattformen wie Facebook und Twitter eine entschlossene Haltung eingenommen und sie verboten. Diese Maßnahmen sind Teil eines umfassenderen Bestrebens, die Nutzer vor den negativen Auswirkungen betrügerischer Medien zu schützen, und unterstreichen die Rolle der Plattform-Governance bei der Aufrechterhaltung der digitalen Vertrauenswürdigkeit.

Einsatz von Software zur Erkennung von Fälschungen

Der Kampf gegen Deepfakes wird auch durch Innovationen des privaten Sektors unterstützt. Eine Reihe von Unternehmen bietet ausgefeilte Software zur Erkennung von Fälschungen an, die wichtige Instrumente zur Identifizierung manipulierter Medien bereitstellt:

Adobes Initiative zur Authentizität von Inhalten: Adobe hat ein System eingeführt, das es Urhebern ermöglicht, ihre Videos und Fotos mit einer digitalen Signatur zu versehen. Diese Signatur enthält detaillierte Informationen über die Erstellung des Mediums und bietet eine transparente Methode zur Überprüfung der Authentizität.
Das Erkennungsprogramm von Microsoft: Microsoft hat ein KI-gestütztes Tool entwickelt, das Videos und Fotos analysiert, um ihre Authentizität zu bewerten. Es gibt einen Vertrauenswert an, der die Wahrscheinlichkeit einer Manipulation angibt und den Nutzern hilft, die Zuverlässigkeit der Medien zu erkennen, auf die sie stoßen.
Operation Minerva: Diese Initiative konzentriert sich auf die Katalogisierung bekannter Deepfakes und ihrer digitalen Fingerabdrücke. Durch den Vergleich neuer Videos mit diesem Katalog ist es möglich, Änderungen an bereits entdeckten Fälschungen zu erkennen und so den Erkennungsprozess zu verbessern.
Die Erkennungsplattform von Sensity: Sensity bietet eine Plattform, die Deep Learning einsetzt, um Deepfake-Medien zu erkennen, ähnlich wie Anti-Malware-Tools Viren und Malware identifizieren. Sie benachrichtigt die Nutzer per E-Mail, wenn sie auf gefälschte Inhalte stoßen, was einen zusätzlichen Schutz darstellt.

Wie können Sie sich schützen? Praktische Schritte

Neben diesen technischen Lösungen können Einzelpersonen auch praktische Maßnahmen zum Schutz vor Deepfakes ergreifen:

Bleiben Sie informiert: Das Bewusstsein für die Existenz und die Natur von Deepfakes ist der erste Schritt zur Verteidigung. Wenn man die Technologie und ihren potenziellen Missbrauch versteht, kann man kritischer mit digitalen Inhalten umgehen.
Überprüfen Sie die Quellen: Überprüfen Sie immer die Quelle der Informationen. Suchen Sie nach bestätigenden Beweisen aus seriösen Quellen, bevor Sie ein Medium als wahr akzeptieren.
Verwenden Sie vertrauenswürdige Erkennungstools: Verwenden Sie Tools zur Erkennung von Fälschungen, sofern verfügbar. Viele Unternehmen und Plattformen bieten Tools oder Plugins an, um manipulierte Inhalte zu erkennen.
Melden Sie verdächtige Inhalte: Wenn Sie auf etwas stoßen, das ein Deepfake zu sein scheint, melden Sie es der Plattform, die den Inhalt hostet. Nutzermeldungen spielen eine entscheidende Rolle dabei, dass Plattformen betrügerische Medien erkennen und dagegen vorgehen können.

Der Schutz vor Deepfakes erfordert einen vielschichtigen Ansatz, der technologische Innovation, die Durchsetzung von Richtlinien und informierte Wachsamkeit kombiniert. Indem sie informiert bleiben und die verfügbaren Werkzeuge und Strategien nutzen, können sich Einzelpersonen und Organisationen besser vor den schädlichen Auswirkungen der Deepfake-Technologie schützen.

Wozu werden Deepfakes verwendet?

Deepfakes werden zwar oft im Zusammenhang mit ihrem Schadenspotenzial diskutiert, doch gibt es eine Reihe von Anwendungen in verschiedenen Bereichen. Das Verständnis dieser Anwendungen hilft, die Komplexität und die doppelte Natur der Deepfake-Technologie zu verstehen. Hier sind einige wichtige Anwendungen:

Unterhaltung und Medien: Die Deepfake-Technologie wird zunehmend in Filmen und Videospielen eingesetzt, um visuelle Effekte zu verbessern, z. B. um Schauspieler altern zu lassen oder verstorbene Darsteller für Cameo-Auftritte wieder zum Leben zu erwecken. Diese Anwendung kann sich auch auf die Erstellung realistischer virtueller Avatare für Online-Interaktionen erstrecken.
Bildung und Ausbildung: In Bildungskontexten können Deepfakes fesselnde Lernerfahrungen schaffen, wie z. B. historische Nachstellungen oder Simulationen. Sie können zum Beispiel historische Figuren zum Leben erwecken und den Schülern eine dynamische Möglichkeit bieten, sich mit Geschichte auseinanderzusetzen.
Kunst und Kreativität: Künstler und Kreative erforschen Deepfakes als neues Ausdrucksmittel. Dazu gehören neue Formen der digitalen Kunst, Satire oder die Erforschung der Grenzen zwischen Realität und Künstlichkeit.
Werbung und Marketing: Marken können die Deepfake-Technologie nutzen, um ansprechendere und personalisierte Marketinginhalte zu erstellen. Deepfakes ermöglichen beispielsweise den Einsatz von Markenbotschaftern in verschiedenen Kampagnen, ohne dass diese physisch anwesend sein müssen, möglicherweise in verschiedenen Sprachen, um ein globales Publikum anzusprechen.
Politische und soziale Kampagnen: Obwohl sie umstritten sind, wurden Deepfakes eingesetzt, um das Bewusstsein für soziale Themen oder die potenziellen Gefahren von Fehlinformationen zu schärfen. Sorgfältig erstellte Deepfakes können die Bedeutung des kritischen Denkens im digitalen Zeitalter hervorheben.
Erstellung synthetischer Medien: Deepfakes gehören zu einer breiteren Kategorie von synthetischen Medien, die zur Erzeugung realistischer Audio-, Video- oder Bildinhalte verwendet werden. Dies kann den Produktionsprozess bei Nachrichten, Dokumentarfilmen und anderen Medienformen rationalisieren.

Obwohl Deepfakes in all diesen Anwendungsbereichen ein vielversprechendes Potenzial haben, ist es von entscheidender Bedeutung, verantwortungsvoll mit ihrer Nutzung umzugehen und sicherzustellen, dass ethische Standards eingehalten werden, um Missbrauch zu verhindern und die Rechte und die Privatsphäre des Einzelnen zu schützen.

Beispiele für Deepfakes

Bekannte Beispiele für Deepfakes sind das Video eines gefälschten Barack Obama, der sich über Donald Trump lustig macht, ein gefälschter Mark Zuckerberg, der damit prahlt, die Daten von Milliarden von Menschen zu kontrollieren, und ein runder Tisch mit gefälschten Prominenten wie Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum und Ewan McGregor.