Nvidia, Microsoft, OpenAI und IBM haben sich zu einer neuen Allianz zusammengeschlossen, um offene KI-Modelle mit zusätzlichen Sicherheitsmechanismen auszustatten.
Die am Dienstag vorgestellte Initiative bringt einige der einflussreichsten Akteure der KI-Branche an einen Tisch. Ziel ist es, offene KI-Modelle mit Verfahren zu kombinieren, die Manipulationen, Datenlecks und Schwachstellen frühzeitig sichtbar machen sollen. Damit reagiert das Bündnis auf die wachsende Sorge, dass frei verfügbare Modelle leichter für Desinformation, Betrug oder Cyberangriffe missbraucht werden können als geschlossene Systeme.
Nvidia selbst bringt ein Sicherheits-Framework rund um KI-Agenten ein, IBM digitale Signaturen als Sicherheitselement und Microsoft ein spezialisiertes System, das Sicherheitslücken aufdecken und verifizieren kann. OpenAI beteiligt sich nach Angaben der Initiatoren ebenfalls, um Trainingsmethoden und Evaluierungsstandards für die offene Variante seiner Modelle beizutragen. Die Allianz versteht sich ausdrücklich als Ergänzung zu bestehenden Bemühungen um KI-Sicherheit, nicht als Ersatz.
