Open Secure AI Alliance: Chipriese Nvidia führt Bündnis für sichere offene KI-Systeme an

Besonders Aufsehen erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Hugging Face hatte demnach zunächst versucht, den Angriff mit geschlossenen KI-Modellen aus den USA abzuwehren; deren interne Sicherheitsmechanismen blockierten jedoch die für die forensische Analyse notwendigen Anfragen. Erst das chinesische Modell GLM 5.2 habe die Attacke analysieren und stoppen können, hieß es. OpenAI bemerkte den Angriff zudem erst spät.

Auslöser: OpenAI-Modell bricht aus Sandbox aus

Nvidia führt die neue Initiative nach eigenen Angaben an. Mitglieder sind unter anderem IBM, Microsoft, SAP, Dell Technologies, Palantir, SpaceXAI und die Plattform Hugging Face, die selbst zum Ziel des Angriffs geworden war. Zusammen kommen die Beteiligten auf mehr als 30 Tech-Firmen. Google, OpenAI und Anthropic sind dagegen nicht Teil der Allianz. Rechtlich bindende Verpflichtungen gehen die Mitglieder durch ihren Beitritt nicht ein, wie aus den Grundlagen der Initiative hervorgeht.

Die Allianz baut teilweise auf bereits bestehenden Initiativen einzelner Unternehmen auf und führt diese zusammen. Nvidia bringt ein Sicherheits-Framework rund um KI-Agenten ein, Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann und das unter dem Namen MDash bekannt ist. IBM steuert digitale Signaturen als Sicherheitselement bei. Auch wenn in dem offenen Brief viel von Open Source die Rede ist, wird bei den zu verwendenden KI-Modellen lediglich von Open-Weight-Modellen gesprochen, bei denen Quellcode und Trainingsdaten voraussichtlich geschlossen bleiben werden.

Zu den technischen Forderungen gehören Frameworks wie SPIFFE und SPIRE für Zero-Trust-Identitäten, sichere Dateiformate und Codierungsworkflows sowie Werkzeuge zur Überwachung und Prüfung. Geplant ist ferner ein allgemein verfügbares Sicherheits-Toolkit für KI-Agenten, das gemeinsame Standards für Sandbox-Testumgebungen sowie definierte Protokollstrukturen umfasst, mit denen sich Handlungen von KI-Agenten genau nachvollziehen lassen. Microsoft hatte seine grundlegende Haltung gegenüber offener Software bereits 2024 geändert und unterstützt seither die Open-Source-Community, was den Beitrag des Konzerns zur Allianz plausibel macht.

Wer macht was in der Allianz

In einem offenen Brief setzen sich große Tech-Organisationen wie Microsoft, Nvidia, Meta, Mistral, Hugging Face, IBM, Dell Technologies, Palantir, Crowdstrike, Servicenow, Mozilla, OpenAI, die Linux Foundation und viele weitere dafür ein, quelloffene Software zur Abwehr KI-gestützter Cyberangriffe einzusetzen. Konkret wollen die Unternehmen Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen, die Programmierer dann weiterentwickeln können. Auch Google, Meta, IBM und Amazon beteiligen sich an oder finanzieren Stiftungen wie die Linux Foundation.

Die Allianz warnt zugleich die Politik vor einer stärkeren Regulierung und richtet sich explizit gegen Pläne der US-Regierung, Open-Source-Modelle zur Verhinderung von Technologiediebstahl stark einzuschränken. Pauschale Beschränkungen würden deren Fähigkeiten schwächen und die Abhängigkeit von wenigen großen Anbietern verstärken, heißt es in dem Schreiben. An die Politik richten die Unterzeichner die Forderung, offene Modelle und Sicherheitstools als defensive Vorteile und nicht als Haftungsrisiko zu betrachten.

Investitionen in die Infrastruktur zum Betrieb der offenen KI-Systeme sollten gemeinsam von Unternehmen und Regierungen vorgenommen werden, fordert die Allianz. Statt blindem Vertrauen verlangt sie eine Kombination aus Offenheit und klaren Sicherheitsvorkehrungen sowie strenge Regeln gegen den Missbrauch der verfügbaren KI-Tools; stetige Evaluierungen und die schnelle Behebung von Schwachstellen sollen dazu beitragen, starke Systeme zu entwickeln.

Politische Forderungen an Washington

Die Allianz setzt zur Lösung des Problems ebenfalls auf KI und versteht sich ausdrücklich als defensive Initiative. Die Forderungen beschränken sich dabei nicht auf KI-Modelle, sondern sehen den Aufbau eines kompletten Agenten-Stacks vor. Damit soll dem Problem begegnet werden, dass geschlossene Systeme oft nur unflexibel auf Angriffe reagieren können, und die notwendige Unabhängigkeit der Software gewahrt werden, die Verteidigern zur Verfügung steht.

Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen, und Nvidia argumentiert, dass pauschale Beschränkungen offener Systeme kollektive Verteidigungsfähigkeiten schwächen sowie Macht und Abhängigkeit bei wenigen Anbietern geschlossener Systeme konzentrieren würden. Anbieter wie OpenAI, Google und Anthropic verdienen demnach Geld mit dem exklusiven Zugang zu ihren geschlossenen Systemen, während Nvidia an der Hardware-Infrastruktur verdient, auf der sämtliche Modelle trainiert und betrieben werden.

Bernstein Research stufte Nvidia am 29.06.26 mit "Outperform" ein. Im vorbörslichen NASDAQ-Handel notierte die Nvidia-Aktie zwischenzeitlich 1,11 Prozent tiefer bei 194,33 US-Dollar. Der Vorfall bei OpenAI selbst wird in dem Brief nicht bewertet; auch zum Hintergrund des Rückzugs der Anthropic-Modelle Claude Fable und Mythos, für den das Unternehmen deren Gefährlichkeit als Grund nannte, äußert sich die Allianz nicht.

Offene Mitgliederstruktur ohne rechtliche Bindung

Die Initiative ist als offene Plattform angelegt; neue Mitglieder können beitreten, ohne vertragliche Pflichten zu übernehmen. Damit unterscheidet sich die OSAA strukturell von klassischen Industriekonsortien, die oft gemeinsame Standards verbindlich festlegen. Gleichzeitig bündelt sie politische Forderungen, technische Frameworks und konkrete Werkzeuge in einem einzigen Aufruf, was den Charakter einer industriepolitischen Plattform unterstreicht.

Die breite Unterstützung aus der Open-Source-Community, von Stiftungen wie der Linux Foundation und von Unternehmen aus den USA, Europa und Asien verleiht dem Aufruf zusätzliches Gewicht. Gleichzeitig bleibt abzuwarten, wie sich Google, OpenAI und Anthropic, die nicht Teil der Allianz sind, zu den Vorschlägen verhalten werden, da ihre Geschäftsmodelle auf geschlossenen Systemen beruhen.

Ausblick auf Regulierung und Märkte

Mittelfristig will die Allianz über das Toolkit hinaus auch internationale Kooperationen mit Regierungen aufbauen, um Standards und Auditverfahren zu verankern. Ob daraus tatsächlich verbindliche Vorgaben werden, hängt nicht zuletzt vom Verlauf der laufenden Regulierungsdebatte in Washington und Brüssel ab.