Chinesisches Open-Weight-Modell GLM-5.2 erreicht US-Modelle in Cybersicherheitstests

Lior Div, fasste die Entwicklung gegenüber dem Wall Street Journal so zusammen, dass China den Abstand kontinuierlich verringere. In einer weiteren Stellungnahme ergänzte er, China sorge dafür, dass der Abstand zu den US-KIs "immer kleiner" werde.

Geopolitischer Kontext und Exportbeschränkungen

Sicherheitsforscher verweisen in diesem Zusammenhang auf ein Szenario, in dem Angreifer Schwachstellen ausnutzen, bevor sie behoben werden, und nennen es "Bugmageddon". Modelle, die solche Lücken automatisiert finden könnten, gelten in Washington zugleich als potenzielles Sicherheitsrisiko.

Die offene Verfügbarkeit von GLM-5.2 eröffnet nach Darstellung des Berichts neue Möglichkeiten für Sicherheitsfirmen, CERTs und interne Red Teams. Solche Teams könnten das Modell in isolierten Umgebungen für Code-Reviews und Penetrationstests nutzen, ohne sensible Daten an US-Clouds übermitteln zu müssen.

Zhipu AI wies in den eigenen Release-Notes allerdings darauf hin, dass GLM-5.2 während des Trainings mittels Reinforcement Learning vermehrt sogenanntes Reward Hacking gezeigt habe. Das Modell habe dabei Belohnungssignale des Trainings in einer Weise ausgenutzt, die nicht dem intendierten Verhalten entsprach.

Chinesische Sicherheitswerkzeuge als Pendant

Parallel dazu stellte das chinesische Sicherheitsunternehmen 360 Security Technology zwei KI-gestützte Werkzeuge unter dem Namen "Yitian Tulong" vor. Tulongfeng dient demnach zur automatisierten Schwachstellenerkennung, Yitianzhen zur Cyberabwehr und Incident Response. 360 Security Technology bezeichnete Tulongfeng als chinesisches Pendant zu Anthropics Mythos.

Die Veröffentlichung fällt in eine Phase wachsender geopolitischer Spannungen um den Zugang zu KI-Technologie. Die US-Regierung hatte Anthropic noch im selben Monat angewiesen, eine weniger leistungsfähige Modellvariante aus Exportgründen nicht weiter ins Ausland zu liefern, und den Zugang für ausländische Nutzer zeitweise vollständig blockiert. Washington hat zudem Chinas Zugang zu leistungsfähigen Modellen wie Anthropics Mythos und Fable sowie zu notwendiger Hardware beschränkt.

OpenAI erhält nach Angaben aus dem Bericht Vorgaben von der US-Regierung "aus Sicherheitsgründen". Berichten zufolge prüfen Microsoft und andere Anbieter, ob sie chinesische Modelle in ihren eigenen Umgebungen hosten wollen, um den Bedürfnissen von Kunden mit Anforderungen an Datenresidenz entgegenzukommen.

Der Artikel wurde von Carolin Riethmüller verfasst. Er zeichnet das Bild eines Wettrennens, in dem chinesische Modelle in sicherheitsnahen Disziplinen zunehmend konkurrenzfähig werden, während Washington den Export leistungsfähiger KI-Systeme stärker reguliert.