Täuschend echte KI-Fakes werden immer besser und gefährlicher. KI-Expertin Dr. Katja Muñoz erklärt, welche vier Denkfehler Menschen besonders anfällig für Manipulation machen.
Täuschend echt wirkdende KI-Videos überfluten das Internet. Die Entwicklung, die Künstliche Intelligenz in den vergangenen Jahren genommen hat, ist rasant und macht es zunehmend schwieriger, echte von gefälschten Inhalten zu unterscheiden. In der neuen ZDF-"Terra X"-Spezialausgabe "Achtung KI-Fake: Was können wir noch glauben?" spricht Physiker Harald Lesch mit Dr. Katja Muñoz. Sie ist Expertin für KI und Geopolitik bei der Deutschen Gesellschaft für Auswärtige Politik (DGAP). Gemeinsam gehen sie der Frage nach, warum KI-generierte Inhalte unsere Wahrnehmung so leicht beeinflussen und Menschen manipulieren können - etwa bei Wahlentscheidungen.
"Ich spreche immer von den vier Reitern der Apokalypse", erklärt die Expertin. Gemeint seien vier Denkfehler beziehungsweise kognitive Verzerrungen, die das Verhalten jedes Menschen beeinflussen. "Die hat jeder Mensch in sich, das kann man nicht ausschalten", gibt Muñoz zu verstehen.
Von "Bestätigungsfehler" und "Anker-Effekt"
Als ersten nennt sie den "Bestätigungsfehler". Dabei suchen oder bewerten Menschen Informationen so, dass sie ihre bestehenden Überzeugungen bestätigen. Der zweite sei der sogenannte "Anker-Effekt" - "der erste Eindruck, der zählt". Gerade in sozialen Medien spiele dieser eine große Rolle, weil häufig der erste Inhalt, den man sieht, die weitere Wahrnehmung prägt.
Der dritte Denkfehler sei der "Verfügbarkeits-Fehler". Wenn Menschen etwas immer wieder sehen, bekomme es "so eine Art Legitimität", erklärt die Expertin. Als vierten nennt sie das Beharren auf Überzeugungen. Dieser Fehler lasse sich zwar nicht direkt online erzeugen, halte Menschen aber an bereits bestehenden Ansichten fest. Als Beispiel nennt sie Verschwörungstheoretiker: Wer überzeugt sei, dass die Erde eine Scheibe ist, lasse sich durch gegenteilige Informationen kaum umstimmen.
"Das ist psychologische Kriegsführung, um uns zu manipulieren"
Diese vier Mechanismen entscheiden laut Muñoz darüber, wie Menschen Informationen aufnehmen. Genau diese Schwächen könne Künstliche Intelligenz gezielt ausnutzen: "Das ist psychologische Kriegsführung, um uns zu manipulieren." Auch die Kennzeichnung von KI-generierten Inhalten ändere nichts an der eigentlichen Wirkung, die solche Videos auf die Wahrnehmung haben können. Seit dem 2. August dieses Jahres ist vorgeschrieben, dass KI-generierte Inhalte wie Deepfakes als künstlich erstellt oder verändert gekennzeichnet werden müssen.
Die Expertin glaubt, dass es uns allen helfen würde, "mehr in unsere Welt zu kommen und mehr in der Realität zu leben". Zum Abschluss richtet auch Harald Lesch einen eindringlichen Appell an die Zuschauer: "Wenn wir nicht aufpassen, welchen Inhalten wir uns aussetzen, dann drohen wir uns in der Flut von Slob und Fakes zu verlieren." Mit "Slob" meint Lesch den sogenannten "KI-Schmodder".
"Terra X - Achtung KI-Fake: Was können wir noch glauben?" ist am Dienstag, 4. August, 23.00 Uhr, im ZDF zu sehen und schon jetzt in der ZDF-Mediathek.
