"Wenn die Geschichte der Menschheit ein Tag ist, sind wir wohl in der letzten Sekunde"

3 Min
KI - Die letzte Erfindung der Menschheit?
"Weniger intelligente Wesen haben es nicht leicht": Der Physik-Nobelpreisträger Geoffrey Hinton warnt vor Konflikten zwischen künstlicher und menschlicher Intelligenz.
BR
KI - Die letzte Erfindung der Menschheit?
Der französische Informatiker Yann LeCun ist überzeugt, KI könne beherrschbar bleiben.
2023 Getty Images/Kevin Dietsch
KI - Die letzte Erfindung der Menschheit?
"KI-Pate" Yoshua Bengio: "Irgendwann traf mich die Erkenntnis mit voller Wucht."
2023 Getty Images/Alex Wong
KI - Die letzte Erfindung der Menschheit?
Der Fortschrittsoptimismus in den USA wirkt oft weiter ungebremst. Trotzdem mehren sich auch im  Silicon Valley immer mehr warnende Stimmen - mit der Sorge, dass Künstliche Intelligenz außer Kontrolle gerät.
BR/ARTE
KI - Die letzte Erfindung der Menschheit?
Putin (links), Xi (Mitte) und Trump beim Dreier-Gipfel in Shenzhen: "Sehr mächtige KI in falschen Händen könnte eine Weltdiktatur ermöglichen."
2026 Getty Images/Win McNamee
KI - Die letzte Erfindung der Menschheit?
Gerät eine ursprünglich menschengemachte Anwendung außer Kontrolle? Selbst fachkundige Experten können nicht genau vorhersagen, wie sich KI-Systeme selbstständig weiterentwickeln werden.
BR/ARTE

Wird KI "die letzte Erfindung der Menschheit" bleiben? Diese Frage buchstabieren in der ARD einige der weltweit führenden Informatiker bis zur möglichen Auslöschung der Zivilisation aus. Es ist der vielleicht wichtigste TV-Dokumentarfilm des Jahres.

"KI wird die Menschheit nicht auslöschen, nicht die Macht übernehmen und uns nicht die Jobs wegnehmen - solange sie unter Kontrolle ist. Und wenn wir sie richtig entwickeln, wird sie das sein."

Das sagt der französische Informatiker Yann LeCun, einer der Wegbereiter jener Technologie, mit der Schicksalsfragen für den Fortbestand unserer Zivilisation verknüpft scheinen. Das Problem: LeCun ist der Einzige der "drei Paten der KI", der einem solch entspannten Blick auf die weitere Entwicklung Künstlicher Intelligenz Ausdruck verleiht. Er ist sogar der einzige Gesprächspartner im Dokumentarfilm "KI - Die letzte Erfindung der Menschheit?", auf den das zutrifft.

"Ich denke, er unterschätzt das Risiko maßlos", sagt Geoffrey Hinton über seinen langjährigen Weggefährten LeCun. Hinton, auch einer, der "Pate der KI" genannt wird, ist Physik-Nobelpreisträger und ehemaliger Vice President von Google. Seine Forschung zu neuronalen Netzen bereitete die Grundlagen, auf denen Chatbots wie Gemini, Claude und ChatGPT aufbauen.

"Dann wären wir für die KI das, was Affen für uns sind, oder?"

Einst dachte der britisch-kanadische Informatiker, er hätte "tolle Dinge" entwickelt: "Sie verbessern das Gesundheitswesen, die Bildung, sie machen alle Branchen effizienter. Alle werden reicher." Heute weiß er: "So läuft es nicht." Der KI-Pionier Hinton gehört inzwischen zu den prominentesten Warnern vor einem unregulierten Technologie-Wettlauf.

"Wir kennen nicht alle Probleme, die KI verursachen wird", sagt der 78-Jährige im Film von Philipp Grüll. "Manche können wir uns vorstellen, aber wir wissen nicht, wie wir sie lösen sollen, etwa, dass sie die Kontrolle übernimmt." Dies könne geschehen, weil es zwischen menschlicher und künstlicher Intelligenz zu einem Wettbewerb um Energie-Ressourcen kommen werde. KI könnte auf den Gedanken kommen: "Wenn Menschen weniger Strom für sich beanspruchen würden, bliebe mehr für sie."

Für noch gefährlicher hält er den Versuch, von KI selbsttätig eine Super-KI entwickeln zu lassen. "Dann wären wir für die KI das, was Affen für uns sind, oder?", zieht der Informatiker einen Vergleich und deutet an: "Weniger intelligente Wesen haben es nicht leicht." Welche Zukunftsperspektiven er damit konkret verbindet, macht der Nobelpreisträger an anderer Stelle im Film deutlich: "Wenn die Geschichte der Menschheit ein Tag ist, sind wir wohl in der letzten Sekunde."

"Irgendwann traf mich die Erkenntnis mit voller Wucht"

Auch der dritte der vielfach so apostrophierten "KI-Paten" kommt in dem vom BR produzierten Dokumentarfilm zu Wort. "Leider sehen wir seit einem Jahr immer mehr Anzeichen, dass KI nicht unseren Zielen folgt", sagt Yoshua Bengio, der laut AD Scientific Index meistzitierte Wissenschaftler der Welt. Viel früher als erwartet sei man an einem gefährlichen Punkt angelangt. "Irgendwann traf mich die Erkenntnis mit voller Wucht", gibt der kanadische Informatiker vor der Kamera zu Protokoll.

Was seine Sicht verändert habe, sei der Gedanke an seine Kinder und sein damals einjähriges Enkelkind gewesen. "Werden sie in 20 Jahren noch ein Leben haben? Werden sie in einer Demokratie leben? Mir wurde klar: Wegen KI, ihrem möglichen Missbrauch und der Gefahr eines Kontrollverlusts konnte ich darauf nicht sicher mit Ja antworten."

KI berge viele Risiken, einige davon seien katastrophal, warnt der 62-Jährige. Schwere Risiken entstünden etwa im Zusammenhang mit Terroristen oder Autokraten. "Sehr mächtige KI in falschen Händen könnte eine Weltdiktatur ermöglichen, in der KI uns alle überwacht und eine Rückkehr zur Demokratie sehr schwierig wird."

Die KI-Apokalypse würde wohl nicht wie bei "Terminator" ablaufen

Erhellend sind in der Doku auch die Ausführungen des früheren OpenAI-Mitarbeiters Steven Adler. Anfangs habe die Unternehmensführung immer wieder betont, "wie wichtig es sei, gemeinnützig zu sein und nicht die Interessen von Aktionären über die der Menschheit zu stellen". Das habe sich im Lauf nur weniger Jahre geändert. "Der Druck wuchs, schnell neue Modelle und Produkte herauszubringen", berichtet Adler. Dabei könnten manche Risiken unumkehrbar sein: "Da kann man nicht einfach sagen: 'Ups, mein Fehler, passiert nicht noch mal.'" Die Stimmung unter den Sicherheitsmitarbeitern von OpenAI sei "besonders 2024 ziemlich düster" gewesen.

In jenem Jahr verließ Adler nach vierjähriger Tätigkeit das Unternehmen: "Auf Twitter schrieb ich, dass mir die Zukunft Angst macht und mächtige KI verhindern könnte, dass ich das Leben führe, das man sich als Kind vorstellt." Diese Vorstellungen vom guten Leben wirkten "so weit weg angesichts des Abgrunds, auf den wir in den nächsten Jahren zusteuern könnten". Der Sicherheitsforscher mahnt eindringlich: "Je mehr wir KI in wichtige Systeme wie militärische Entscheidungen oder Stromnetze einbauen, desto mehr Möglichkeiten schaffen wir für Fehler und Schäden in der Gesellschaft."

Dass der Weg vom Fehler bis zum äußersten Szenario ausbuchstabiert wird, bleibt einem bei Ansicht der ARD-Doku nicht erspart. "Die meisten stellen sich das wie bei 'Terminator' vor: riesige Metallroboter, die alle erschießen", sagt der in Berkeley forschende britische Informatik-Professor Stuart Russell über die KI-Apokalypse. Wahrscheinlich würde es ganz anders kommen. "Vielleicht eine chemische Reaktion, die der Atmosphäre den Sauerstoff entzieht. Oder eine künstlich erzeugte Pandemie mit langer Inkubationszeit, die jeden auf der Erde infiziert. Vermutlich würden wir erst merken, was passiert, wenn es zu spät ist."

Angesichts solcher Aussichten vermisst man lautstarke Proteste aus der in weiten Teilen KI-skeptischen Bevölkerung. Geoffrey Hinton hat dafür eine Erklärung: "Es ist wie in den Anfängen des Klimawandels, als nur wenige verstanden, was Klimawandel ist. Bei der KI sind wir noch nicht so weit." Wahrscheinlich wäre es hilfreich, wenn sich das schnell ändert.

"KI - Die letzte Erfindung der Menschheit?" ist am Montag, 23. November, um 23.35 Uhr im Ersten zu sehen und schon jetzt in der ARD-Mediathek.

Quelle: teleschau – der mediendienst