Anthropic fordert weltweite Pause bei Entwicklung hochmoderner KI

Voraussetzungen für eine wirksame Pause

Für eine solche koordinierte Pause seien zudem verbindliche Regeln nötig. Dafür müssten Regeln aufgestellt und eingehalten werden, 'die für alle überprüfbar wären', so Anthropic weiter. Das Unternehmen betonte, dass freiwillige Selbstverpflichtungen einzelner Firmen allein nicht ausreichten.

Anthropic ist ein in San Francisco ansässiges US-Unternehmen, das auf Künstliche Intelligenz spezialisiert ist. Bekannt ist die Firma vor allem durch ihren Chatbot Claude, der überwiegend von Unternehmen genutzt wird. Am Montag hatte Anthropic zudem Unterlagen für einen Börsengang (IPO) eingereicht.

Mythos – Sicherheitswerkzeug mit Doppelnatur

Parallel zur Forderung nach einer globalen Pause arbeitet Anthropic selbst an einem KI-Modell mit dem Namen Mythos. Dieses System ist darauf ausgelegt, Sicherheitslücken in Computersystemen aufzuspüren. Sowohl US-Behörden als auch die EU haben Interesse an einem Testzugang signalisiert, um mögliche Risiken einschätzen zu können.

Diese Pläne sorgen allerdings auch für Bedenken. Deutsche Verfassungsschützer und Sicherheitspolitiker haben davor gewarnt, dass Kriminelle oder staatliche Akteure Mythos für Cyberangriffe missbrauchen könnten. Die Doppelnutzung solcher Sicherheits-Tools – einerseits zur Verteidigung, andererseits als mögliche Waffe – steht im Mittelpunkt der Debatte.

Konflikt mit dem Pentagon

Zusätzlich befindet sich Anthropic derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Hintergrund ist die Weigerung des Unternehmens, eine uneingeschränkte militärische Nutzung seiner KI-Technologie zuzulassen. Anthropic erklärte, er wolle KI nicht zur 'Massenüberwachung im Inland' oder in vollautonomen Waffensystemen einsetzen lassen.

Das Pentagon stuft Anthropic inzwischen als Sicherheitsrisiko in der Lieferkette ein – eine Klassifizierung, die das Unternehmen gerichtlich anficht. Damit gehört der Konzern zu den wenigen KI-Firmen, die sich offen gegen eine umfassende militärische Verwendung ihrer Technologie stellen und diesen Konflikt auch vor Gericht austragen.

Politische Einordnung

Mit der Forderung nach einer weltweiten Pause positioniert sich Anthropic zugleich als Mahner in einer Debatte, die seit Monaten zwischen Tech-Konzernen, Regierungen und Sicherheitsbehörden geführt wird. Ob die Idee einer koordinierten Verlangsamung politische Chancen hat, ist derzeit offen. Die Initiative gilt Beobachtern als ungewöhnlich, da das Unternehmen selbst mit Mythos an einem hochleistungsfähigen Modell arbeitet und zugleich einen Börsengang anstrebt.

Insgesamt zeigt die Stellungnahme das Spannungsfeld, in dem sich Anthropic bewegt: Das Unternehmen entwickelt leistungsstarke KI-Modelle, warnt zugleich vor deren unkontrollierter Verbreitung und liefert sich einen Grundsatzkonflikt mit dem Pentagon über den militärischen Einsatz. Die Forderung nach einer international abgestimmten Pause könnte den Druck auf andere KI-Konzerne sowie auf Regierungen in den USA, China und der EU erhöhen, sich zu ähnlichen Selbstbeschränkungen zu bekennen.