Der führende Hersteller von KI-Chips, Nvidia, und fast 40 weitere Technologieunternehmen haben eine KI-Sicherheitsallianz ins Leben gerufen. Dem Bündnis gehören unter anderem Microsoft, IBM, SAP, Dell, Palantir sowie der Konzern SpaceXAI an. 

Auffällig ist dabei jedoch vor allem, wer bei der neuen Allianz fehlt: Ausgerechnet die führenden Entwickler geschlossener KI-Modelle, namentlich Google, OpenAI und Anthropic, sind nicht Teil der Initiative.

Die Gründung der «Open Secure AI Alliance» (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als «beispiellos».

Hackerabwehr nur mit KI-Modellen aus China möglich

Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren.

Diese Versuche misslangen jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden.

Das neue Bündnis setzt zur Lösung dieses Problems nun auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren «Sicherheitsbaukastens» für KI-Agenten. Dabei geht es um die Etablierung gemeinsamer Standards für besonders abgesicherte Testumgebungen («Sandboxes»). 

Außerdem sollen neuartige Protokollstrukturen eingerichtet werden, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein.