Druckartikel: DeepSeek: Experten mit Sicherheitsbedenken bei chinesischer KI

DeepSeek: Experten mit Sicherheitsbedenken bei chinesischer KI


Autor: Alexander Milesevic, Agentur dpa

München, Donnerstag, 13. Februar 2025

Die chinesische KI DeepSeek zählt zu den populären Anwendungen in den App Stores von Apple und Google. Sicherheitsbehörden, Datenschützer und Cyberfachleute sehen erhebliche Risiken.
Das Logo des chinesischen KI-Start-ups DeepSeek auf einem Computerbildschirm zu sehen, während davor eine Frau auf ihr Smartphone schaut. Das Start-up löst bei Experten Sicherheitsbedenken aus.


Behörden und Cybersecurity-Experten haben ernsthafte Sicherheitsbedenken gegenüber der chinesischen KI DeepSeek. Dabei geht es um mehrere Aspekte: die offensichtlich sehr umfangreiche Speicherung von Benutzerdaten, die mögliche Manipulierbarkeit der Anwendung für illegale Zwecke und die Frage, inwieweit der chinesische Spionage- und Überwachungsapparat Zugriff auf Benutzerdaten hat. DeepSeek hat sich seit ihrer Einführung zu einer der populärsten KI-Anwendungen auch in den deutschen App Stores von Apple und Google entwickelt.

Ein zentraler Kritikpunkt ist die Speicherung der Tastatureingaben. DeepSeek informiert in seinen Datenschutzhinweisen darüber, dass "Tastatureingabemuster oder -rhythmen" (keystroke patterns or rhythms) erfasst werden - ein Verfahren, das zur Identifizierung von Nutzern verwendet werden kann. "Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden", sagt eine Sprecherin des Bundesamts für Sicherheit in der Informationstechnik (BSI) auf dpa-Anfrage.

DeepSeek laut BSI für sicherheitskritische Bereiche bedenklich

"Daneben wird die Art und Weise, wie Tastatureingaben vorgenommen werden, gespeichert." Mit solchen Mustern könnten mit Hilfe Künstlicher Intelligenz User-Profile erstellt und wiedererkannt werden. Fazit: "Das BSI hält diese Möglichkeit mindestens für sicherheitskritische Bereiche für bedenklich."

Video:

Die etablierte US-Konkurrenz von Open AI hingegen sichert zu, nicht aktiv nach persönlichen Informationen zu suchen und keine öffentlichen Daten im Internet zum Aufbau persönlicher Profile zu verwenden. Allerdings gibt es auch ein US-Gesetz – den Cloud Act –, das amerikanische Firmen verpflichtet, den Behörden Zugriff auf im Ausland gespeicherte Daten zu gewähren.

Ein "Keylogger", wie ihn kriminelle Hacker und Geheimdienste zum Ausspionieren von Passwörtern und Zugangs-Daten verwenden, ist die Speicherung von Eingabemustern oder -rhythmen durch DeepSeek nach Einschätzung des Experten Rüdiger Trost zwar nicht. "Hier muss man unterscheiden: Ein Keylogger schneidet alles mit, was über die Tastatur eingegeben wird", sagt der Fachmann, der für den Cybersicherheitsdienstleister WithSecure arbeitet. "Das ist etwas Anderes als ein Prompt in einem GenAI Tool oder im Allgemeinen eine Sucheingabe in einem Browser."

Ist DeepSeek hilfreich für Cybergangster?

Doch in einer Untersuchung des großen US-Cybersicherheitsunternehmens Palo Alto Networks ließ sich DeepSeek leicht für kriminelle Zwecke manipulieren. Das berichtet Sam Rubin, Leiter der Bedrohungsanalyse und -beratung des Unternehmens.

Immer aktuell: Die Handy- & Smartphone-Bestseller auf Amazon

So brachten die Cyber-Experten DeepSeek mit Hilfe der "richtigen Prompts" dazu, ein Skript zur Auslesung von Daten aus E-Mails und Word-Dokumenten zu erzeugen. Solche Skripte werden von Hackern genutzt, um Daten zu stehlen. Mit zusätzlichen Prompts habe DeepSeek außerdem tatsächlich "Keylogger Code" produziert, wie Rubin auf Anfrage sagte.

Das erfolgreiche Umgehen von Sicherheitsvorkehrungen nennt man in der Software-Branche "Jailbreaking" – Gefängnisausbruch. Laut Palo Alto Networks fehlen DeepSeek die Schutzplanken anderer KI-Modelle. "Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte", sagt Rubin.

Freier Zugriff für Chinas Spione?

Ganz abgesehen davon ist DeepSeek nach chinesischem Recht verpflichtet, sämtliche Daten in der Volksrepublik zu speichern. Das chinesische Geheimdienstgesetz wiederum verpflichtet Bevölkerung und Organisationen zur Kooperation mit den Sicherheitsbehörden. Der Gummiparagraf wird von etlichen China-Experten als Zugriffsrecht des Überwachungsapparats auf sämtliche in der Volksrepublik gespeicherten Daten interpretiert.

Garantiert die besten Tarife zum besten Preis: Jetzt Handytarife mit Check24 vergleichen

Derzeit bereitet der Datenschutzbeauftragte von Rheinland-Pfalz ein Prüfverfahren gegen DeepSeek vor. "Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor", sagte eine Sprecherin auf Anfrage. Laut EU-Datenschutzgrundverordnung muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen, was DeepSeek bislang offenbar nicht getan hat. "Das Fehlen eines gesetzlichen Vertreters stellt an sich schon einen Verstoß gegen die Datenschutz-Grundverordnung dar und kann mit Bußgeld geahndet werden", sagt die Sprecherin. Die italienische Datenschutzbehörde GDDP hat die chinesische KI bereits Ende Januar auf den Index gesetzt. DeepSeek ließ eine dpa-Anfrage zu den verschiedenen Kritikpunkten zunächst unbeantwortet.

Deutsche Ministerien, Bundesbehörden und große Unternehmen treffen umfassende Sicherheitsvorkehrungen gegen Cyberangriffe. Das schließt Künstliche Intelligenz mit ein und betrifft nicht nur DeepSeek.

Ministerien und Konzerne mit KI-Regelungen

So hat das Bundesinnenministerium die Nutzung externer Cloud-Dienste grundsätzlich untersagt. Andere Bundesministerien haben ähnliche Regelungen erlassen: Das Finanzministerium hat die Nutzung "textgenerativer Künstlicher Intelligenz im Internet zu dienstlichen Zwecken grundsätzlich untersagt". Das Wirtschaftsministerium hat festgelegt, welche Anwendungen erlaubt sind, DeepSeek und andere KI-Anwendungen gehören nicht dazu.

Ohne Vertragsbindung und mit voller Kostenkontrolle: Die aktuellen Prepaid-Tarife der Telekom in der Übersicht

Auch das Deutsche Patent- und Markenamt in München – ebenfalls ein potenzielles Spionageziel – setzt DeepSeek nicht ein. Im bayerischen Innenministerium sind DeepSeek und andere KI-Anwendungen auf dienstlichen Geräten nicht erlaubt und private Geräte dürfen nicht dienstlich genutzt werden.

Nach diesem Prinzip verfahren auch große Unternehmen, die ihre Technologie schützen wollen. Dazu zählt die Münchner Wacker Chemie, ein bedeutender Lieferant der Computerchip-Industrie: kein DeepSeek auf Firmenrechnern und -geräten und keine privaten Geräte bei der Arbeit.

Sicherheitsschleusen bei Dax-Konzernen

Mehrere Dax-Konzerne ermöglichen den Zugriff auf KI-Anwendungen nur über die Sicherheitsvorkehrungen eigener Systeme, bei Siemens etwa "SiemensGTP" genannt. "Dort ist neben vielen anderen Modellen auch Deep Seek verfügbar - innerhalb eines sicheren Umfelds, das garantiert, dass Siemensdaten bei Siemens bleiben", sagt ein Sprecher. BMW und die BASF gehen nach einem ähnlichen Muster vor.

Wie wir künstliche Intelligenz einsetzen