Mit KI gegen KI
Neben dem kritischen Blick und der eigenen Logik gibt es auch KI-Tools, um Deepfakes rasch zu entlarven: «Am Ende kommt ein Zahlenwert zwischen 0 und 100 heraus. 0 steht für echt, 100 steht für gefälscht. Normalerweise hat ein Deepfake einen Wert um die 95», sagt Müller.
Allerdings werden die KI-Modelle kontinuierlich verbessert. «Die Modelle konvergieren dazu, Bilder auszugeben, die fast nicht mehr unterscheidbar sind von echtem Material.» Trotzdem sieht der Forscher nicht schwarz für die Wirklichkeit: «Das ist wie in der IT-Sicherheit: Der Angreifer verbessert sich und die Verteidigung zieht dann entsprechend nach.»
Jens Kramosch (42) vom Unternehmen Leak.Red in Erfurt nähert sich dem Deepfake wie ein Ermittler: «Das ist, wie wenn man an einen Tatort kommt. Am besten beobachtet man erst mal das Gesamtbild. Ich achte zum Beispiel auf die Haare, den Haaransatz, den Wimpernschlag und die Hautstruktur.» Oft sei die Haut bei Deepfakes zu glatt.
«Wichtig ist auch, nicht nur auf die Bildmitte zu schauen, sondern auf die Ränder: Passen die Linien? Passen die Schatten? Es gibt verschiedene KI-Modelle, die fokussieren sich auf das Objekt in der Mitte und vernachlässigen das Drumherum.»
Am schwierigsten sei ein Deepfake zu erkennen mit nur einer Person in der Bildmitte und diffusem Hintergrund. «Bei einer Frau etwa im Blumenmeer ist das deutlich schwieriger für die KI, das täuschend echt zu berechnen.» Dann kommen bei ihm die Metadaten dran: Stimmt die Geolocation? Uhrzeit und Ort? «Manchmal steht da 0.00 Uhr und 1970 als Erstellungsjahr.»
KI-Forensik-Tools im Einsatz
«Wir können mit unserer KI eine Beweiskette erstellen», sagt Kramosch, den Geschädigte beauftragen können. «Wenn das Deepfake etwa bei Instagram online ist, können wir das als Beweis einfrieren und das kann dann auch nicht mehr verändert werden. Das wird wirklich forensisch gesichert.»
Auch Kramosch sieht: Die KI wird immer besser, übertrifft sich ständig selbst. «Wenn wir über KI-Deepfakes reden, die vor einem Jahr online gegangen sind: Seither gibt es schon wieder 23 bessere Modelle. Ich denke, am Ende des Jahres sind wir wirklich so weit, dass der Laie auf Social Media keinen Unterschied mehr erkennen kann.»
In der Zukunft werde man umdenken müssen: «Irgendwann wird es fast nur noch Deepfakes geben, oder nur noch künstlich generierten Content und dann ist es wichtig zu sagen: Das ist aber ein Original. Dann brauchen wir so etwas wie den blauen Haken bei Instagram, eine Art digitalen Echtheits-Stempel. Auch wenn das jetzt dramatisch klingt, aber: Da sind wir nächstes Jahr schon.»
Aber werden Deepfakes mit Hilfe von KI-Tools als Fakes identifizierbar bleiben? «Ich sag' jetzt einfach mal ja, weil ich optimistisch bin und weil natürlich jede KI ein gewisses Muster hat. Aber die letzten Monate zeigen, dass die Entwicklung sehr, sehr schnell geht.»
Überzeugen KI-Tools die Richter?
«KI-Erkenner sind oft Blackbox-Systeme. Sie bestimmen mit einer Wahrscheinlichkeit, ob es sich um ein Deepfake handelt, aber sie liefern nicht unbedingt eine Erklärung mit, warum», warnte bereits im Februar Tobias Wirth vom Deutschen Forschungszentrum für Künstliche Intelligenz.
Die KI könne Systeme, Muster und Indikatoren erkennen, die für das menschliche Auge nicht oder nur schwer wahrnehmbar sind. Das betreffe etwa feine Unstimmigkeiten auf Pixelebene. Vor Gericht sei das aber problematisch, da im Sinne der Beweiswürdigung nachvollziehbare Aussagen benötigt werden.
