Was ist real - und was nicht? Dass diese Grenze in Zeiten leistungsfähiger KI mehr und mehr verschwimmt, zeigen nicht zuletzt die zahlreichen Versuche, daraus kriminelles Kapital zu schlagen. Waren etwa sogenannte Deepfakes in letzter Zeit vor allem im pornografischen Kontext prominent in den Medien präsent, beleuchtet die aktuelle Doku von Eckart von Hirschhausen einen anderen, jedoch nicht minder schwerwiegenden Aspekt des Phänomens: Unter dem Titel "Hirschhausen und die Deepfake-Mafia" geht es im investigativ recherchierten ARD-Beitrag zur Primetime um ein global organisiertes Betrugssystem, in dem Daten gehandelt und Menschen mit Gesundheitsthemen gezielt manipuliert werden.

Hirschhausen und sein Team, so die Ankündigung zur WDR-Produktion, legten "ein kriminelles System offen, das gezielt mit der Gesundheit und dem Vertrauen von Menschen spielt". Es geht um mehrere tausend Fälle: In realistisch wirkenden Werbevideos, allesamt mit KI-Fälschungen erstellt, preist man den Verbraucherinnen und Verbrauchern angebliche Gesundheitsprodukte an - unter anderem auch mit Deepfakes von Hirschhausens Stimme und Gesicht. Vor allem Ältere und Menschen mit gesundheitlichen Problemen werden demnach gezielt beeinflusst und emotional unter Druck gesetzt. Neben den Deepfakes nutzen die Betrüger dafür auch gesammelte und penibel ausgewertete Daten sowie professionell organisierte Callcenter.

"Desinformation ist ein medizinischer Notfall"

Ein Whistleblower berichtet im Film, wie die Callcenter agieren: Die Mitarbeitenden werden geschult, gezielt deutsche Kundinnen und Kunden zu kontaktieren und die Ängste von Patientinnen und Patienten ins Visier zu nehmen. Geleakte Aufnahmen und Material zur Schulung zeigen: Es geht um falsche Heilungsversprechen, mit denen die Hinterleute an das Geld der Opfer kommen wollen. Auch Letztere kommen im Film zu Wort und erzählen, wie ihr Vertrauen missbraucht wurde, wie sie zum Teil um erhebliche Summen gebracht wurden - und auch, wie schamvoll sich dieses Ausgenutztwerden anfühlt.

"Weil Menschen im Gesundheitswesen wenig Gehör finden, suchen sie im Internet nach Hilfe", berichtet Eckart von Hirschhausen und warnt: "Dort wimmelt es aber von Betrügern, gefälschten Medikamenten und täuschend echten Videos von mir und anderen Ärztinnen und Ärzten. Desinformation ist ein medizinischer Notfall. Auch unechte Wundermittel können echten Schaden anrichten!" Nicht nur Hirschhausens Person dient zur Erstellung von Deepfakes, betroffen sind auch weitere öffentlich-rechtliche und vertrauenswürdige Gesichter - darunter Moderator Ingo Zamperoni und Ernährungsmediziner Matthias Riedl ("Die Ernährungsdocs"), die im Film ebenfalls zu Wort kommen.

"Meine Stimme gehört mir, mein Gesicht auch"

Hinter dem Betrug steht eine global agierende Industrie, wie die bis nach Brasilien führenden Recherchen zeigen - wobei die komplexen internationalen Firmenstrukturen die Strafverfolgung erschweren. Zudem, so legt der Film offen, sind auch die Online-Werbebranche sowie die großen Tech-Giganten samt ihrer Plattformen entscheidend involviert: Die dort über die User gesammelten und milliardenfach gehandelten Daten - sei es über intime Vorlieben, private Lebenslagen oder vor allem Krankheiten und Gesundheitszustand - bilden die Basis, um personalisierte Werbung und vor allem Deepfake-Inhalte gezielt einzusetzen. Expertinnen und Experten aus den Bereichen Datenschutz, Kriminalität und Gesetzgebung klären auf, wie die Netzwerke funktionieren und weshalb der Staat ihnen bisweilen wenig entgegensetzen kann.

Darüber hinaus will die Hirschhausen-Doku nicht nur die Mechanismen einer Betrugsindustrie aufdecken, sondern auch aufklären und praktische Wege gegen Betrugsversuche aufzeigen: Woran erkennt man Deepfakes? Welche technischen Hilfsmittel gibt es dagegen? Wie kann sich der oder die Einzelne schützen?

"Durch die explosive Entwicklung von künstlicher Intelligenz wird es im Netz unmöglich zu erkennen, was echt ist, und was Lüge. Das zerstört das Vertrauen in Menschen, in die Wissenschaft und die Demokratie", kommentiert Hirschausen das weitreichende und brisante Thema seiner Doku. "Deshalb mache ich diesen Film", zitiert das Erste den 58-Jährigen: "Meine Stimme gehört mir, mein Gesicht auch. Wir brauchen dringend verbindliche Regeln gegen die kommerziellen Plattformen."