Deepfakes sind KI-generierte oder KI-manipulierte Medien, die Personen, Stimmen oder Ereignisse glaubhaft nachahmen. Im KI-Kontext tauchen sie als politisches Risiko, Betrugswerkzeug, Urheberrechts- und Medienproblem sowie als Auslöser für Herkunftsnachweise wie digitale Signaturen und Content Credentials auf.

Kurzdefinition

Ein Deepfake ist ein täuschend echt wirkendes KI-generiertes oder manipuliertes Medium, das Personen, Stimmen oder Ereignisse so darstellt, als wären sie echt. Der Begriff umfasst im KI-Kontext nicht nur Videos, sondern auch Fake-Audio, Stimmenklone, manipulierte Bilder und andere synthetische Medien.

Wichtig ist dabei die Täuschungswirkung: Ein KI-generierter Inhalt wird besonders dann zum Deepfake-Problem, wenn er als authentische Aufnahme, echte Aussage oder echte Identität verstanden werden soll.

Was Deepfakes im KI-Kontext bedeuten

Relevant ist Deepfakes vor allem als Schnittstelle zwischen generativer KI und gesellschaftlichem Vertrauen. Beispiele aus den Newsletter-Belegen reichen von einem AI-generierten Fake-Audio, das Joe Biden imitieren sollte, über einen Videocall-Betrug mit angeblichem CFO bis hin zu missbräuchlich erzeugten freizügigen Bildern ohne Zustimmung.

Damit ist Deepfake kein reines Technikwort. Es steht im KI-Kontext auch für Medienkompetenz, Wahl- und Desinformationsrisiken, Finanzbetrug, Persönlichkeitsrechte, Urheberrecht und Plattformregeln.

Typische Formen: Bild, Stimme, Video

Deepfakes können als Bild, Video oder Audio auftreten. Der Fake-Biden-Fall im KI-Kontext zeigt die Audio-Seite: Eine KI-Stimme gab vor, Joe Biden zu sein, und transportierte eine politische Botschaft. Der CFO-Fall zeigt die Video- und Identitätsseite: In einem Videocall gaben sich Betrüger per Deepfake als Finanzvorstand aus.

Stimmenklone sind dabei ein besonders greifbarer Teilbereich: Im Newsletter wird ein Marktplatz für lizenzierte Hollywood-Stimmen als mögliche ethisch saubere Alternative zu illegalen Deepfakes eingeordnet. Das trennt erlaubte, lizenzierte Stimmnutzung von täuschendem oder nicht autorisiertem Stimmenklonen.

Warum Deepfakes riskant sind

Die Belege zeigen drei zentrale Risikofelder. Erstens können Deepfakes politische Kommunikation verfälschen, wenn gefälschte Stimmen oder Videos echte Aussagen vortäuschen. Zweitens können sie für Betrug eingesetzt werden, etwa wenn eine vermeintliche Führungskraft in einem Videocall Zahlungsanweisungen auslöst. Drittens können sie Persönlichkeitsrechte verletzen, wenn Bilder von Personen ohne Zustimmung manipuliert oder sexualisiert werden.

Der AI-Breakdown ordnet Deepfakes deshalb nicht als abstraktes Zukunftsrisiko ein, sondern als bereits reales Problem: In einer Newsletter-Stelle werden Betrug durch Deepfakes und andere Sicherheitsrisiken ausdrücklich als reale Gefahren beschrieben.

Abgrenzung zu verwandten Begriffen

Synthetische Medien sind der breitere Oberbegriff: Sie können kreativ, legal und offen als KI-generiert gekennzeichnet sein. Ein Deepfake ist der problematische Spezialfall, bei dem die Darstellung täuschend echt wirkt oder eine Person, Stimme oder Situation falsch zugeschrieben wird.

Text-to-Speech und Voice Cloning beschreiben die technische Erzeugung oder Nachahmung von Stimmen. Sie werden nicht automatisch zum Deepfake; kritisch wird es, wenn eine Stimme ohne Zustimmung oder mit Täuschungsabsicht als echte Person eingesetzt wird.

KI-generierte Inhalte sind ebenfalls breiter als Deepfakes. Ein Bild, eine Stimme oder ein Video kann offen als KI-generiert genutzt werden; im Deepfake-Kontext geht es dagegen besonders um Authentizität, Zustimmung, Identität und Herkunft.

Gegenmaßnahmen: Signaturen, Herkunft und Kennzeichnung

Eine wichtige Gegenmaßnahme ist Provenance, also ein Herkunftsnachweis für Medien. Relevant sind Kamerahersteller wie Nikon, Sony und Canon, die an digitalen Signaturen für Fotos arbeiten, um Authentizität zu sichern und Deepfakes entgegenzuwirken.

Content Credentials und C2PA stehen in den geprüften Quellen als offizielle Ansätze für Medienauthentizität und Herkunftsnachweise. Solche Verfahren beantworten nicht automatisch die Frage, ob ein Inhalt wahr ist; sie sollen nachvollziehbarer machen, woher ein Medium stammt und ob Metadaten zur Herkunft vorhanden sind.

Der EU AI Act ist als geprüfte offizielle Quelle relevant, weil der AI-Breakdown Deepfakes auch im Kontext von Kennzeichnung, Transparenz und Plattformregeln einordnet. Für die Wiki-Seite sollte die rechtliche Detailauslegung aber redaktionell geprüft werden, bevor konkrete Pflichten formuliert werden.

Weitere Seiten

Quellen und Belege

AI-Breakdown-Ausgaben

Externe Quellen