Am Mittwoch will der BR in seiner "Münchner Runde" über die Gefahren von KI-Fakes aufklären. Gezeigt werden ein Helm und Sensoren, die angeblich Mimik auf Avatare übertragen können. Leider ist das alles selbst eine Fälschung.
Der Fall der Schauspielerin Collien Fernandes hat nicht nur eine Debatte über sexualisierte Gewalt ausgelöst, sondern auch die Gefahren der Manipulation durch Künstliche Intelligenz verstärkt ins Bewusstsein gerufen. So lautete die Prämisse der politischen Talkshow "Münchner Runde" am Mittwochabend im BR. "Schockanrufe, Fake-News, sexuelle Gewalt - Was muss jetzt passieren?", war die von Christian Nitsche moderierte Ausgabe überschrieben.
"Wir müssen uns schützen, das wissen wir, und darüber reden wir jetzt in dieser Sendung", sagte der BR-Chefredakteur zu Beginn. Nach wenigen Minuten leitete er dann zu einem Beitrag über, der das Ausmaß der Gefahren durch sogenannte Deepfakes illustrieren sollte. "Wir haben einen KI-Experten hier in München, der zeigt mit Videos im Netz, wie leicht man Videos fälschen kann", sagte Nitsche. Das Folgende nahm er beschreibend vorweg: "Er hat so Sensoren am Kopf, da kann man dann die Mimik, aber auch die Stimme dann letztlich übertragen auf andere Gesichter. Schauen Sie mal, wie lebensecht das wirkt!"
Gezeigt wurden Videos, die der unter den Namen "Herr Tech" und "Mr. Tech" firmierende KI-Influencer Florian Hübner bei Plattformen wie Instagram und YouTube gepostet hat. Darin warnen offenkundige KI-Avatare vor KI-Fakes. Der Gag: Ihre Mimik spiegelt die des Influencers selbst, der in einem eingeklinkten Fenster mit schwarzen Punkten im Gesicht und einer Kopfhörer-Helm-Konstruktion zu sehen ist.
"Es schadet nie, einen klitzekleinen Faktencheck zu machen"
Alleine: Der Influencer, sein Helm und die Punkte sind allesamt selbst eine Simulation. Das macht "Herr Tech" in den Video-Kommentaren auch transparent. Auf die womöglich nicht ganz ernst gemeinte Nachfrage eines Users ("Hey ich will in Helm und die Punkte wo kann ich das kaufen!!!?") schreibt er: "Halt dich fest (...). Das Video unten ist natürlich ... auch KI. Den Helm gibt es nicht."
So weit hat beim Bayerischen Rundfunk jedoch offenbar niemand gelesen. "Eigentlich eine gute Sache" sei es, dass der BR auf die Gefahren von Deepfakes hinweise, schrieb Florian Hübner alias "Herr Tech" am Donnerstag bei Instagram. "Wenn sie nicht selbst auf meine KI reingefallen wären!"
Der Influencer staunt: "Der Moderator hat ganz ernsthaft erklärt, wie ich diesen speziellen 'Helm' mit Sensoren und Tracking-Punkten trage, um die Mimik zu übertragen. Der Plot-Twist: Es gibt diesen Helm gar nicht. Die Punkte, die Sensoren ... das ist ALLES KI!" Er wundert sich: "Wenn sogar die öffentlich-rechtlichen Medien den Unterschied zwischen echter Hardware und KI-Tools nicht mehr erkennen, wie sollst DU es dann können? Also, kleiner Rat an den Bayerischen Rundfunk (und an euch alle): es schadet nie, einen klitzekleinen Faktencheck zu machen."
KI-Panne erinnert an Fehler im "heute-journal"
Die KI-Panne des Bayerischen Rundfunks weckt Erinnerungen an den Skandal, den ein "heute journal"-Beitrag vor wenigen Wochen ausgelöst hatte - auch wenn die Tragweite nun nicht annähernd so brisant erscheint. Im Februar wurden im ZDF-Nachrichtenmagazin KI-generierte Bilder ausgestrahlt, um die Methoden der US-amerikanischen Migrationsbehörde ICE zu illustrieren. Zum anderen wurde eine Szene gezeigt, die zwar authentisch ist, aber aus einem völlig anderen Zusammenhang des Jahres 2022 entnommen wurde.
In der Folge berief das ZDF eine USA-Korrespondentin ab und kündigte einen umfangreichen Maßnahmenkatalog an. "Glaubwürdigkeit ist unser höchstes Gut. Wir zeigen mit den beschlossenen Maßnahmen, dass es uns mit der Aufarbeitung sehr ernst ist", versicherte ZDF-Chefredakteurin Bettina Schausten bei einer Sitzung vor dem ZDF-Fernsehrat.
Quelle: teleschau – der mediendienst
