Anthropic fordert globale KI-Bremse: Selbstverbesserung als | finanz360
Anthropic schlägt globale Bremse für besonders leistungsfähige KI vor
San Francisco, 05 Juni 2026
AI-generated image (flux-2/pro-text-to-image via Kie.ai)
Kurzfassung
Der KI-Entwickler Anthropic hat in einem Blogbeitrag eine weltweite Verlangsamung oder vorübergehende Pause bei der Entwicklung besonders fortschrittlicher KI-Modelle gefordert. Als zentralen Auslöser nennt das Unternehmen das Risiko einer sogenannten rekursiven Selbstverbesserung von KI-Systemen.
San Francisco, 05 Juni 2026
Der US-KI-Entwickler Anthropic hat in einem Blogbeitrag die Möglichkeit einer weltweiten Verlangsamung oder vorübergehenden Pause bei der Entwicklung besonders fortschrittlicher KI-Modelle ins Gespräch gebracht und dafür einen internationalen Kontrollmechanismus angeregt.
Der Vorschlag stammt von dem in San Francisco ansässigen KI-Unternehmen, das unter anderem für seinen Chatbot Claude bekannt ist. Verfasst wurde der Blogbeitrag nach Angaben von Anthropic von Mitgründer Jack Clark und der Forscherin Marina Favaro. Darin heißt es, es sei wünschenswert, dass die Welt überhaupt über die Option verfüge, die Entwicklung von Frontier AI zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können.
Als konkreten Anlass für den Vorstoß nennt Anthropic den rasanten Fortschritt aktueller KI-Modelle, insbesondere deren zunehmende Fähigkeit, sich selbst zu verbessern und eigenständig weiterzuentwickeln. Das Unternehmen warnt, dass das Risiko eines Kontrollverlusts der Menschheit über KI steige, sobald Modelle in der Lage seien, sich selbst gezielt zu optimieren. Den Meilenstein einer solchen Fähigkeit hält Anthropic für näher rückend, als viele Institutionen darauf vorbereitet seien.
Worum es in dem Blogbeitrag geht
Das Phänomen, bei dem ein KI-System immer leistungsfähigere Nachfolgeversionen weitgehend ohne menschliches Zutun hervorbringt, bezeichnet Anthropic als rekursive Selbstverbesserung. Nach Darstellung des Unternehmens ist diese Entwicklung zwar nicht zwangsläufig, aber ein Szenario, auf das sich die Gesellschaft vorbereiten müsse. Anthropic selbst räumt ein, dass unklar sei, ob heutige Trainingsmethoden und Architekturen dieses Potenzial erreichten; gleichwohl hält das Unternehmen das Risiko für diskussionswürdig.
Eine Pause oder Verlangsamung solle nach Vorstellung von Anthropic allerdings nur dann greifen, wenn alle großen Entwickler gleichzeitig und nachprüfbar mitziehen. Einseitige Schritte einzelner Firmen lehnt das Unternehmen ausdrücklich ab, da dies seiner Argumentation zufolge lediglich die Führungsposition anderer Akteure verändern würde. „Wenn solche Systeme existierten, würden wir voraussichtlich verlangsamen oder vorübergehend pausieren“, heißt es in dem Blogbeitrag, verbunden mit der Bedingung, dass die Regeln für alle Beteiligten überprüfbar wären.
Warum eine Pause nur gemeinsam funktionieren soll
Anthropics eigener Chef Dario Amodei hatte bereits im Januar auf dem Weltwirtschaftsforum in Davos erklärt, der KI-Wettlauf mit China mache eine Verlangsamung der Entwicklung sehr schwierig. Diese Einschätzung wiederholt das Unternehmen nun indirekt, indem es zugibt, dass derzeit in der Branche keine sichtbare Bereitschaft zu einer Pause bestehe. Gleichwohl will Anthropic in den kommenden Monaten Gesprächsrunden mit Regierungsvertretern, Wissenschaftlern, zivilgesellschaftlichen Gruppen und konkurrierenden KI-Unternehmen organisieren, um offene Fragen zu klären.
Dazu zählt aus Sicht von Anthropic insbesondere, unter welchen Bedingungen eine Verlangsamung in Kraft treten soll, wer sie überwacht und unter welchen Voraussetzungen sie wieder aufgehoben wird. Das unternehmenseigene Forschungsinstitut soll parallel an technischen Ansätzen arbeiten, die eine kontrollierte Verlangsamung überhaupt erst ermöglichen. Als historisches Vorbild verweist Anthropic auf den INF-Vertrag, dessen Aushandlung Jahrzehnte gedauert habe, und macht damit die Dimension deutlich, die ein international abgestimmter Kontrollmechanismus haben könnte.
Politischer Gegenwind aus Washington
Dass der Vorstoß in eine politisch aufgeladene Phase fällt, zeigt ein aktueller Konflikt mit der US-Regierung. Das Weiße Haus unter Präsident Donald Trump wirft Anthropic vor, mit Forderungen nach strengerer Regulierung die heimische Industrie im globalen Wettbewerb zu bremsen. Zugleich ist Anthropic derzeit mit dem US-Verteidigungsministerium in einem Rechtsstreit, nachdem das Unternehmen dem Pentagon die uneingeschränkte militärische Nutzung seiner KI verweigert hatte. Das Pentagon stuft Anthropic in der Folge als „Sicherheitsrisiko in der Lieferkette“ ein; Anthropic klagt gegen diese Einstufung.
Das Unternehmen begründet seine Haltung mit klaren roten Linien: So soll die eigene Technologie weder für Massenüberwachung im Inland noch für vollautonome Waffensysteme eingesetzt werden. Auch die Europäische Union zeigt Interesse an einer engeren Zusammenarbeit und hofft auf Testzugang zu Anthropics KI-Technologie, um potenzielle Risiken besser bewerten zu können.
Wirtschaftliche Stärke und Börsenpläne
Dabei ist Anthropic wirtschaftlich in einer starken Position. Nach einer kürzlich abgeschlossenen Finanzierungsrunde wird das Unternehmen mit 965 Milliarden US-Dollar bewertet und liegt damit vor dem Rivalen OpenAI. Am Montag reichte Anthropic zudem vertraulich Unterlagen für einen Börsengang bei der US-Börsenaufsicht SEC ein und wäre in dem Rennen um einen IPO vorne. Auch die EU will sich Zugang zur Technologie sichern, während die Debatte über eine internationale KI-Bremse Fahrt aufnimmt.
Der Druck, solche Debatten zu führen, kommt nicht von ungefähr. In einer der im Blogbeitrag zitierten Statistiken gibt Anthropic an, dass im Mai mehr als 80 Prozent des Codes in der eigenen Codebasis durch das eigene KI-System Claude erzeugt wurden. Im Februar 2025 lag dieser Anteil noch im niedrigen einstelligen Prozentbereich. Die Entwickler lieferten eigenen Angaben zufolge im Schnitt achtmal so viel Code pro Quartal ab wie im Zeitraum 2021 bis 2025.
Code von Claude, Mythos und ein offener Brief
Gleichzeitig berichtet Anthropic, dass die Häufigkeit, mit der Mitarbeiter Claudes Ausgabe korrigieren oder manuell eingreifen müssen, stetig gesunken sei – auch bei offenen Aufgaben ohne klare Vorgaben. Viele Beschäftigte beurteilten die Qualität des von Claude geschriebenen Codes Ende 2025 noch als schlechter als menschlichen Code; inzwischen sehen sie ihn als gleichwertig an. „Wir erwarten, dass er im Laufe des Jahres besser sein wird“, schreibt Anthropic mit Blick auf die Codequalität.
Welche Breitenwirkung eine globale Pause hätte, ist derzeit offen. Bereits im März 2023 hatten mehr als 1.000 Personen aus Forschung und Industrie in einem offenen Brief eine obligatorische Pause bei der Entwicklung der leistungsfähigsten KI-Modelle gefordert, darunter auch Elon Musk. Wenig später wurde bekannt, dass Musk gleichzeitig die Gründung seiner eigenen KI-Firma vorantrieb. Der damalige Aufruf steht sinnbildlich für das Spannungsfeld, in dem sich auch Anthropic bewegt: zwischen Warnungen vor den Risiken und dem eigenen kommerziellen Interesse an einer Spitzenposition im Feld.
Dass KI-Forschung nicht nur Theorie ist, zeigt der Fall von Claude Mythos Preview. Mit dieser Software fand Anthropic nach eigenen Angaben Sicherheitslücken in verschiedenen Programmen, die teils seit Jahrzehnten unentdeckt waren. Beim Start wurde der Zugang zunächst auf einen kleinen Kreis US-amerikanischer Unternehmen und Behörden beschränkt – nach Darstellung von Anthropic, weil das System „zu gut“ im Auffinden von Schwachstellen war, um es allgemein verfügbar zu machen. Inzwischen können auch europäische Institutionen auf Mythos zugreifen; Ende Juni will Anthropic einen Bericht zu den gefundenen Schwachstellen vorstellen.
Was als Nächstes ansteht
Die Diskussion über Selbstverbesserung gewinnt vor diesem Hintergrund zusätzlich an Gewicht. Sam Altman, Chef des Rivalen OpenAI, hatte kürzlich eingeräumt, mit früheren Prognosen zur Verdrängung menschlicher Arbeit durch KI überzogen zu haben. Während sich die Branche also in ihren Tempo-Ankündigen teilweise korrigiert, plädiert Anthropic nun für ein langsameres, koordiniertes Vorgehen bei den wirklich weitreichenden Fähigkeiten. Ob daraus ein bindender internationaler Mechanismus wird, hängt nach Darstellung des Unternehmens vor allem am politischen Willen der führenden KI-Nationen ab.
Berichtet wurde über den Blogbeitrag unter anderem im Deutschlandfunk am 5. Juni 2026 sowie von Reuters am selben Tag.
Fragen & Antworten
Was hat Anthropic genau vorgeschlagen?
Das KI-Unternehmen hat in einem Blogbeitrag angeregt, dass die Welt über die Möglichkeit verfügen sollte, die Entwicklung besonders fortschrittlicher KI-Modelle zu verlangsamen oder vorübergehend auszusetzen. Voraussetzung sei ein internationaler Kontrollmechanismus, an dem sich führende Entwickler – insbesondere aus den USA und China – beteiligen.
Was bedeutet rekursive Selbstverbesserung?
Anthropic bezeichnet damit ein Szenario, in dem ein KI-System eigenständig leistungsfähigere Nachfolgeversionen hervorbringt, ohne dass Menschen jeden Schritt steuern. Das Unternehmen hält dies zwar nicht für unausweichlich, warnt aber vor einem möglichen Kontrollverlust, falls dieser Schritt schneller erreicht werde als gesellschaftliche Strukturen sich anpassen können.
Wie reagiert die US-Regierung auf den Vorstoß?
Das Weiße Haus unter Präsident Donald Trump wirft Anthropic vor, mit Forderungen nach strengerer Regulierung die US-Industrie im globalen Wettbewerb auszubremsen. Zugleich ist Anthropic mit dem Pentagon im Streit, nachdem das Unternehmen militärische Nutzungen wie Massenüberwachung im Inland oder vollautonome Waffensysteme ausgeschlossen hatte; das Pentagon stuft Anthropic als Sicherheitsrisiko in der Lieferkette ein, wogegen das Unternehmen klagt.
