Deepfakes erkennen: woran man KI-Bilder entlarvt

Der Reichstag-Fake: eine koordinierte Deepfake-Kampagne

Am 30. April 2023 verbreitete ein Künstlerkollektiv eine Behauptung, die – auf den ersten Blick fast zu absurd, um zu funktionieren, und genau deshalb tückisch – für Aufruhr sorgen sollte: Auf dem Reichstag in Berlin wehe eine sowjetische Fahne. Markowski, Head of Technology bei Bild bei Axel Springer, beschreibt den Fall auf der OGcon als eines der eindrücklichsten Deepfake-Beispiele aus seiner Praxis. Der Grund: kein einzelnes Foto, keine einzelne Fälschung, die man mal eben widerlegt.

Belegt wurde die Behauptung nämlich mit einer ganzen Reihe an Fotos und Videos, die – als hätte man ein Alibi wasserdicht konstruiert – exakt zueinanderpassten: Aufnahmen aus einem Reisebus, Menschen davor, mehrere Perspektiven auf dieselbe angebliche Szene. Schöne neue Welt. Genau diese Vielzahl an sich gegenseitig bestätigenden Bildern machte die Fälschung laut Markowski wahnsinnig überzeugend, ein Aufwand, den man mit einem einzelnen, schnell entlarvten Fake-Bild nie erreicht hätte.

Warum Multi-Foto-Kampagnen schwerer zu entlarven sind als Einzelbilder

Ein einzelnes verdächtiges Foto? Vergleichsweise schnell geprüft, per Rückwärtssuche, am Fehlen von Kontext, fertig. Koordinierte Kampagnen mit mehreren zusammenpassenden Aufnahmen aus unterschiedlichen Blickwinkeln sind ein ganz anderes Kaliber, weil sie – und das ist im Grunde die eigentliche Pointe des Falls – genau die Art von Redundanz erzeugen, die im Journalismus sonst als Bestätigung gilt: Zeigen mehrere "unabhängige" Quellen dasselbe, hätte man das früher fraglos als Beleg für Echtheit gewertet.

Trotzdem fiel kein deutsches Medium auf die Reichstag-Fälschung herein. Warum nicht? Weil der entscheidende Hinweis nicht im Bild selbst lag, sondern in einem Detail am Rand, das leicht zu übersehen gewesen wäre, wenn niemand genau hingeschaut hätte: Das Wetter an dem Tag passte absolut nicht zu dem, was im Hintergrund der angeblichen Aufnahmen zu sehen war. Wetterlage, Tageszeit, Schattenwurf – solche Unstimmigkeiten bleiben, sagt Markowski, das Wörtchen noch ein zentrales Werkzeug gegen auch professionell wirkende Fälschungen.

Warum keine Software allein Deepfakes zuverlässig erkennt

Gibt es eine Software, die einem ganz klar sagt: gefälscht oder echt? Nein – jedenfalls nicht zuverlässig, nicht heute, und, wie Markowski mit einem Achselzucken anfügt, das Wörtchen noch nicht. Automatische Erkennungstools existieren, liefern Hinweise, taugen als erster Filter, aber sie ersetzen die eigentliche Recherche nicht, schon gar nicht bei aufwendig produzierten, koordinierten Fälschungen wie der Reichstag-Kampagne.

Was stattdessen zählt: das klassische Handwerkszeug des Journalismus, Quellen abgleichen, Kontext prüfen, Widersprüche suchen – im Grunde nichts, das erst mit KI entstanden wäre, nur jetzt mit höherem Einsatz. Bei einem anderen, deutlich simpleren Fall aus seinem Vortrag reichte schon eine einfache Google-Rückwärtssuche, um ein KI-generiertes Foto von einem echten zu unterscheiden und sogar den KI-Künstler dahinter aufzuspüren. Nicht jede Fälschung ist eben so aufwendig wie die Reichstag-Aktion.

Der größere Kontext: KI, Urheberrecht und die Beziehung zu den Tech-Konzernen

Deepfakes sind für Markowski, das betont er ausdrücklich, nur eines von mehreren Risiken, die generative KI für den Journalismus mit sich bringt, neben einer Content-Flut, die Redaktionen kaum noch sortiert bekommen, und Urheberrechtsfragen, die – trotz jahrelanger Debatte – das Wörtchen noch längst nicht geklärt sind. Als prominentestes Beispiel verweist er auf den Rechtsstreit zwischen der New York Times und OpenAI. Axel Springer selbst ging einen anderen Weg: eigener Vertrag mit OpenAI, statt Klage.

Was heißt das für die Verifikationsarbeit? Im Grunde dies: Je enger Medienmarken und KI-Anbieter zusammenarbeiten, desto eher fließt auch Wissen über Erkennungsmerkmale und Kennzeichnungsstandards in beide Richtungen, sozusagen als Nebeneffekt einer Partnerschaft, die eigentlich aus ganz anderen Gründen geschlossen wurde. Einen Überblick über den Rahmen, in dem sich Unternehmen dabei bewegen, gibt der Themen-Guide Künstliche Intelligenz im Unternehmen.

Was das für Redaktionen und Unternehmen bedeutet

Die Reichstag-Kampagne zeigt ein Muster, das sich wiederholen wird, und zwar – da macht sich Markowski nichts vor – mit steigendem Aufwand auf der Fälscherseite: Je überzeugender und koordinierter eine Fälschung aufgebaut ist, desto weniger reicht ein schneller Blick oder ein einzelnes Tool. Verifikation bleibt Recherchearbeit. Quellen, Kontext, Details – gegeneinander geprüft, nicht auf eine einzelne Software oder ein einzelnes Bild verlassen. Das gilt heute. Und mit fortschreitender Technik, sagt Markowski nüchtern, gilt es morgen das Wörtchen noch ein Stück mehr.

Häufige Fragen