Ein Video zeigt eine bekannte Person mit einer überraschenden Aussage, eine vertraute Stimme bittet am Telefon um Geld oder ein Foto scheint ein außergewöhnliches Ereignis zu belegen. Solche Inhalte können echt sein, aus dem Zusammenhang gerissen werden oder vollständig beziehungsweise teilweise mit künstlicher Intelligenz erzeugt worden sein. Gerade bei Deepfakes reicht der erste optische oder akustische Eindruck nicht mehr aus, um die Herkunft sicher zu beurteilen. Moderne Systeme können Gesichter, Lippenbewegungen und Stimmen so überzeugend nachbilden, dass die früher typischen Fehler immer seltener auffallen.
Das Thema ist im Herbst 2026 besonders aktuell. Die Transparenzpflichten aus Artikel 50 der europäischen KI-Verordnung gelten seit dem 2. August 2026. Sie verpflichten Anbieter bestimmter KI-Systeme unter anderem zu maschinenlesbaren Markierungen und sehen für den Einsatz von Deepfakes eine erkennbare Offenlegung vor. Die Europäische Kommission hat dazu neue Leitlinien veröffentlicht, die Begriffe, Verantwortlichkeiten und Ausnahmen genauer erklären. Eine Kennzeichnung erleichtert die Einordnung seriös veröffentlichter Inhalte, löst das Problem absichtlicher Täuschung aber nicht. Kriminelle oder Desinformationsakteure können Hinweise entfernen, verschleiern oder von vornherein umgehen.
Der Cybersicherheitsmonitor 2026 des Bundesamtes für Sicherheit in der Informationstechnik zeigt zugleich eine Lücke zwischen vermeintlicher Erkennungskompetenz und tatsächlicher Prüfung. 59 Prozent der Befragten waren nach eigenen Angaben bereits KI-generierten Bildern oder Videos begegnet. 47 Prozent trauten sich zu, solche Inhalte erkennen zu können. Tatsächlich hatten aber nur 28 Prozent nach sichtbaren Unstimmigkeiten gesucht und lediglich 19 Prozent die Quelle geprüft. Diese Zahlen sprechen dafür, Deepfake-Erkennung nicht als Blicktest zu verstehen, sondern als geordneten Prüfprozess.
Der folgende Ratgeber erklärt, was ein Deepfake genau ist, welche Hinweise bei Bild, Video und Stimme relevant sind, wie Quellen und technische Herkunftsangaben geprüft werden können und welche Schutzmaßnahmen bei einem verdächtigen Anruf oder einer Zahlungsforderung sinnvoll sind. Absolute Sicherheit liefert kein einzelnes Merkmal. Verlässlicher wird die Beurteilung erst, wenn Inhalt, Kontext, Quelle und technische Spuren gemeinsam betrachtet werden.
Was ist ein Deepfake?
Der Begriff verbindet „Deep Learning“ mit „Fake“. Gemeint sind künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte, die vorhandene Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse nachahmen und fälschlich authentisch erscheinen können. Ein Gesicht kann in ein anderes Video eingesetzt, eine Stimme nachgebildet oder eine echte Aufnahme so verändert werden, dass eine Person scheinbar etwas anderes sagt oder tut.
Nicht jedes KI-generierte Bild ist automatisch ein Deepfake. Ein vollständig erfundenes Fantasiebild ohne Bezug zu einer realen Person oder einem realen Ereignis ist synthetischer Inhalt, erfüllt aber nicht zwingend die engere Deepfake-Definition. Umgekehrt muss nicht das gesamte Video künstlich sein. Schon ein ausgetauschtes Gesicht, eine veränderte Tonspur oder eine nachträglich angepasste Lippenbewegung kann den Aussagegehalt grundlegend verfälschen.
Außerdem ist nicht jede Täuschung technisch ein Deepfake. Ein echtes Foto mit falscher Bildunterschrift, ein alter Videoclip, der als aktuell ausgegeben wird, oder ein irreführender Ausschnitt kann ebenso manipulativ wirken. Für die praktische Prüfung bleibt deshalb der umfassendere Blick auf Fake News und Medienkompetenz wichtig. Die Frage lautet nicht nur, ob Pixel mit KI erzeugt wurden, sondern ob die behauptete Geschichte durch verlässliche Quellen bestätigt wird.
Welche Kennzeichnung seit August 2026 gilt
Nach den aktuellen Informationen der Europäischen Kommission zu Artikel 50 des AI Act gelten die Transparenzpflichten seit dem 2. August 2026. Anbieter generativer KI-Systeme müssen ihre Systeme so gestalten, dass erzeugte oder manipulierte Inhalte in einem maschinenlesbaren Format markiert und als künstlich erstellt erkennbar gemacht werden können. Diese technische Herkunftsinformation richtet sich vor allem an Plattformen, Prüfwerkzeuge und andere Systeme.
Wer ein KI-System einsetzt und einen Deepfake veröffentlicht, muss den künstlichen oder manipulierten Charakter grundsätzlich klar und wahrnehmbar offenlegen. Für Texte zu Angelegenheiten von öffentlichem Interesse gelten ebenfalls Transparenzvorgaben, wenn sie KI-generiert oder manipuliert wurden und keine menschliche Prüfung oder redaktionelle Kontrolle stattgefunden hat. Für gewöhnliche Bearbeitungsfunktionen, die Eingaben oder deren Bedeutung nicht wesentlich verändern, sieht die Regelung Abgrenzungen vor.
Die Leitlinien der Europäischen Kommission zu den Transparenzpflichten erläutern Rollen, Anwendungsfälle und Ausnahmen. Für die alltägliche Bewertung ist besonders wichtig: Eine vorhandene Kennzeichnung ist ein wertvoller Hinweis, eine fehlende Kennzeichnung beweist jedoch nicht die Echtheit. Pflichten wirken vor allem bei rechtmäßig handelnden Anbietern und Veröffentlichenden. Wer gezielt betrügen will, hält sich regelmäßig nicht an Kennzeichnungsvorgaben.
Auch umgekehrt ist Vorsicht nötig. Ein eingeblendeter Hinweis wie „KI-generiert“ kann selbst nachträglich auf ein echtes Bild gesetzt worden sein. Eine sichtbare Beschriftung ist daher nicht dasselbe wie eine technisch überprüfbare Herkunftskette. Seriöse Medien nennen Quelle, Entstehungsweise und Bearbeitung transparent. Bei weitreichenden Behauptungen sollte die Veröffentlichung zusätzlich durch unabhängige Berichte oder Originalquellen gestützt sein.
Warum der Kontext wichtiger als ein einzelner Bildfehler ist
Frühe KI-Bilder verrieten sich häufig durch deformierte Hände, unlesbare Schrift oder unnatürliche Augen. Solche Fehler kommen weiterhin vor, sind aber kein zuverlässiger Haupttest mehr. Generatoren werden besser, während stark komprimierte echte Aufnahmen ebenfalls seltsam wirken können. Videoplattformen reduzieren die Bildqualität, Kameras glätten Gesichter automatisch, und schlechte Beleuchtung erzeugt Artefakte, die fälschlich für eine Manipulation gehalten werden können.
Der erste Prüfschritt betrifft deshalb die Behauptung. Passt der Inhalt zu bestätigten Ereignissen? Ist die angebliche Originalquelle auffindbar? Berichten mehrere voneinander unabhängige, glaubwürdige Stellen dasselbe? Ein spektakuläres Video, das nur von anonymen Konten verbreitet wird, verdient mehr Skepsis als eine Aufnahme mit nachvollziehbarer Herkunft, vollständigem Kontext und bestätigenden Quellen.
Auch das Verhalten des verbreitenden Kontos liefert Hinweise. Ein sehr junges Profil, ständig wechselnde Themen, fehlende Angaben zur verantwortlichen Person oder massenhaft gleichlautende Beiträge sprechen nicht automatisch für eine Fälschung, erhöhen aber den Prüfbedarf. Besonders vorsichtig ist mit Beiträgen umzugehen, die starke Angst oder Empörung auslösen und sofortiges Teilen verlangen. Emotionale Dringlichkeit soll häufig verhindern, dass eine Behauptung in Ruhe geprüft wird.
Woran sich manipulierte Bilder erkennen lassen
Bei Bildern lohnt sich eine Prüfung der gesamten Szene. Beleuchtung, Schatten und Spiegelungen müssen zur gleichen Lichtquelle passen. Brillen, Schmuck, Haare und feine Muster können an Übergängen unlogisch werden. Schrift auf Schildern, Kleidung oder Verpackungen ist manchmal verformt. Hintergrundpersonen können unvollständige Gesichtszüge haben, und wiederkehrende Strukturen erscheinen auffällig ähnlich. Diese Merkmale sind Hinweise, aber kein Beweis.
Das BSI empfiehlt zur Prüfung KI-generierter Bilder neben der Sichtkontrolle vor allem Quellenprüfung, Rückwärtssuche und Herkunftshinweise. Bei einer Rückwärtssuche wird das Bild oder ein markanter Ausschnitt in eine Bildsuchmaschine geladen. Dadurch lässt sich häufig eine ältere Fassung finden. Tauchte dasselbe Motiv bereits Jahre zuvor in einem anderen Zusammenhang auf, ist zumindest die aktuelle Behauptung widerlegt.
Metadaten können Informationen zu Aufnahmegerät, Datum oder Bearbeitungssoftware enthalten. Viele Plattformen entfernen diese Angaben allerdings beim Hochladen. Fehlende Metadaten sind deshalb normal und kein Fälschungsnachweis. Aussagekräftiger können signierte Herkunftsdaten wie Content Credentials sein, sofern sie von einer vertrauenswürdigen Stelle stammen und technisch überprüft werden. Sie dokumentieren mögliche Bearbeitungsschritte, garantieren aber nicht automatisch, dass jede inhaltliche Aussage im Bild wahr ist.
Online-Detektoren können zusätzliche Hinweise liefern, sollten aber nicht als Wahrheitsmaschine behandelt werden. Das BSI weist darauf hin, dass solche Dienste keine zuverlässige Erkennung garantieren. Unterschiedliche Werkzeuge können dasselbe Bild gegensätzlich bewerten. Zudem ist vor dem Hochladen privater Fotos zu prüfen, wie der Dienst mit den Daten umgeht. Der Beitrag zum Datenschutz im Internet erläutert, warum sensible Aufnahmen nicht unbedacht an unbekannte Plattformen übermittelt werden sollten.
Welche Hinweise Videos und Stimmen geben
Bei Videos kommt die zeitliche Konsistenz hinzu. Gesichtskonturen können sich zwischen Einzelbildern verändern, Haare kurz mit dem Hintergrund verschmelzen oder Brillenränder flackern. Lippenbewegung und Ton passen möglicherweise nicht exakt zusammen. Kopfbewegungen wirken steif, während Blinzeln oder Mimik ungewöhnlich regelmäßig erscheinen. Bei schnellen Bewegungen und seitlichen Ansichten treten Fehler oft deutlicher hervor als in einer ruhigen Frontalaufnahme.
Stimmenklone verraten sich manchmal durch unnatürliche Betonung, fehlende Atemgeräusche, ungewöhnliche Pausen oder einen blechernen Klang. Solche Signale werden jedoch ebenfalls schwächer, und schlechte Telefonverbindungen können ähnliche Effekte verursachen. Entscheidend ist deshalb nicht, ob eine Stimme überzeugend klingt, sondern ob die Forderung über einen zweiten, bekannten Kanal bestätigt werden kann.
Die Polizeiliche Kriminalprävention beschreibt bei Deepfake-Betrug typische Warnzeichen: Eine angeblich vertraute Person schildert eine Notsituation, verlangt eine schnelle Zahlung oder fordert vertrauliche Informationen. Eine sichere Reaktion besteht darin, die Verbindung zu beenden und über die bereits bekannte Telefonnummer zurückzurufen. Eine persönliche Frage oder ein zuvor vereinbartes Familien-Codewort kann zusätzlich helfen. Öffentlich auffindbare Angaben aus sozialen Netzwerken eignen sich nicht als Geheimfrage.
Diese Schutzregel ergänzt allgemeine Hinweise zu einer aktuellen Betrugsmasche am Telefon. Rufnummernanzeigen, Profilbilder und bekannte Stimmen sind keine ausreichenden Echtheitsbelege. Sobald Geld, Zugangsdaten, TANs oder Geheimhaltung verlangt werden, ist eine unabhängige Bestätigung erforderlich.
Wie eine belastbare Deepfake-Prüfung abläuft
Eine gute Prüfung beginnt mit einer Pause. Der Inhalt sollte weder geteilt noch kommentierend weiterverbreitet werden, solange seine Herkunft unklar ist. Danach wird die ursprüngliche Veröffentlichung gesucht. Screenshots und erneut hochgeladene Clips verlieren häufig Kontext, Zeitstempel und Herkunftsdaten. Bei Videos kann ein markantes Einzelbild gespeichert und rückwärts gesucht werden.
Im nächsten Schritt wird die Behauptung von der Aufnahme getrennt. Ein echtes Video kann mit einer falschen Orts- oder Zeitangabe versehen sein. Umgekehrt kann eine bearbeitete Aufnahme einen wahren Hintergrund haben. Namen, Ort, Datum und angebliches Ereignis werden deshalb einzeln mit offiziellen Quellen oder mehreren seriösen Medien abgeglichen. Bei Aussagen einer Behörde, eines Unternehmens oder einer bekannten Person ist die offizielle Website oder ein verifiziertes Originalkonto die naheliegende Gegenquelle.
Erst danach folgt die technische Sichtprüfung. Auffälligkeiten bei Licht, Rändern, Lippenbewegung oder Stimme werden gesammelt, aber nicht überbewertet. Herkunftsnachweise und Detektoren können das Gesamtbild ergänzen. Wer selbst mit generativen Werkzeugen experimentiert, versteht deren typische Stärken und Grenzen oft besser. Eigene Tests ersetzen jedoch keine Quellenprüfung.
Bleiben erhebliche Zweifel, ist Zurückhaltung die richtige Schlussfolgerung. Nicht jeder Inhalt muss sofort als echt oder falsch etikettiert werden. Die Formulierung „nicht verifiziert“ ist sachlicher als eine unbelegte Behauptung. Bei journalistisch, rechtlich oder finanziell relevanten Fällen können professionelle Faktencheckstellen, IT-Forensik oder Ermittlungsbehörden erforderlich sein.
Was bei einem verdächtigen Inhalt zu tun ist
Ein verdächtiger Beitrag sollte nicht aus Empörung weitergeleitet werden, weil auch eine warnende Weitergabe die Reichweite erhöhen kann. Plattformen bieten Meldefunktionen für manipulierte Medien, Betrug, Identitätsmissbrauch oder nicht einvernehmliche intime Inhalte. Für eine spätere Prüfung können URL, Kontoname, Zeitpunkt und Bildschirmaufnahmen gesichert werden. Persönliche oder intime Aufnahmen gehören nicht in öffentliche Kommentarspalten.
Bei einer konkreten Zahlungsforderung gilt: Gespräch oder Chat unterbrechen, bekannte Kontaktwege nutzen und keine Zugangsdaten übermitteln. Ist bereits Geld geflossen, sollte das kontoführende Institut sofort kontaktiert werden; anschließend kommt eine Anzeige bei der Polizei in Betracht. Bei kompromittierten Konten müssen Passwörter geändert, aktive Sitzungen beendet und eine Mehrfaktor-Authentifizierung eingerichtet werden. Ein Passkey als passwortlose Anmeldung kann den Schutz geeigneter Konten verbessern, verhindert aber nicht jede Form sozialer Manipulation.
Wer selbst Opfer eines Deepfakes wird, sollte nicht nur die Datei, sondern auch Fundstellen und Verbreitungswege dokumentieren. Plattformmeldung, anwaltliche Beratung und Strafanzeige können je nach Inhalt und Schaden sinnvoll sein. Bei unmittelbarer Gefahr oder Erpressung ist schnelle professionelle Hilfe wichtiger als eine eigene technische Analyse.
Fazit: Herkunft schlägt Bauchgefühl
Deepfakes lassen sich 2026 nicht zuverlässig an einem einzigen Fehler erkennen. Sichtbare Artefakte, unstimmige Lippenbewegungen oder eine künstlich klingende Stimme können Verdacht auslösen, doch gute Fälschungen vermeiden genau diese Schwächen. Gleichzeitig können echte, stark komprimierte oder schlecht beleuchtete Aufnahmen verdächtig wirken. Die belastbarste Methode kombiniert deshalb Quellenprüfung, Kontextvergleich, Rückwärtssuche, technische Herkunftshinweise und eine vorsichtige Bewertung.
Die seit dem 2. August 2026 geltenden EU-Transparenzregeln verbessern die Orientierung, weil seriös eingesetzte KI-Systeme und veröffentlichte Deepfakes gekennzeichnet werden sollen. Sie ersetzen jedoch keine Medienkompetenz. Bei überraschenden Geldforderungen oder vertraulichen Bitten ist die Rückfrage über einen bekannten zweiten Kanal wichtiger als die vermeintlich vertraute Stimme. Bei öffentlichen Behauptungen zählen Originalquelle und unabhängige Bestätigung mehr als die optische Überzeugungskraft eines Clips.
Häufige Fragen zu Deepfakes
Die folgenden Antworten fassen die wichtigsten Punkte für die schnelle Einordnung zusammen.
Kann ein Deepfake allein am Gesicht erkannt werden?
Nein. Fehler an Augen, Zähnen, Haaren oder Gesichtsrändern können Hinweise sein, fehlen aber bei guten Fälschungen. Zudem erzeugen Kompression und schlechte Beleuchtung ähnliche Effekte. Quelle, Kontext und unabhängige Bestätigung sind deshalb wichtiger als ein einzelnes Gesichtsmerkmal.
Ist jedes KI-generierte Bild ein Deepfake?
Nein. Ein Deepfake ahmt bestehende Personen, Orte, Gegenstände, Einrichtungen oder Ereignisse so nach, dass der Inhalt fälschlich authentisch wirken kann. Ein erkennbares Fantasiebild ohne Bezug zu realen Vorbildern ist zwar KI-generiert, aber nicht zwingend ein Deepfake im engeren Sinn.
Müssen Deepfakes seit August 2026 gekennzeichnet werden?
Artikel 50 der EU-KI-Verordnung gilt seit dem 2. August 2026 und sieht Transparenzpflichten für bestimmte Anbieter und Anwender vor. Deepfakes müssen bei ihrer Veröffentlichung grundsätzlich erkennbar offengelegt werden. Einzelheiten und Ausnahmen erläutern die Leitlinien der Europäischen Kommission.
Beweist eine fehlende Kennzeichnung, dass ein Video echt ist?
Nein. Täuschende Akteure können Kennzeichnungen entfernen oder ganz vermeiden. Auch ältere Inhalte und bestimmte Ausnahmen können anders behandelt werden. Eine fehlende Markierung ist daher kein Echtheitsbeweis.
Wie zuverlässig sind Deepfake-Detektoren?
Detektoren können Hinweise liefern, aber keine sichere Entscheidung garantieren. Modelle entwickeln sich laufend weiter, Dateien werden komprimiert und Prüfwerkzeuge reagieren unterschiedlich. Sensible private Dateien sollten außerdem nicht ohne Datenschutzprüfung auf unbekannte Dienste hochgeladen werden.
Was ist bei einer verdächtigen Stimme mit Geldforderung zu tun?
Die Verbindung sollte beendet und die angebliche Person über eine bereits bekannte Nummer kontaktiert werden. Geld, PINs, TANs und Zugangsdaten dürfen nicht aufgrund einer Stimme oder eines Videobildes übermittelt werden. Ein privates Codewort kann Familien zusätzlich absichern.
Bildnachweis: Beitragsbild von cottonbro studio / Pexels, Pexels-Foto-ID 5474035; Bild im Text von MART PRODUCTION / Pexels, Pexels-Foto-ID 7643731. Nutzung gemäß Pexels-Lizenz.
