Papst Leo XIV. warnt in erster Enzyklika vor den dunklen Seiten der Künstlichen Intelligenz

«Nichts ist in der Welt der KI immateriell oder magisch», heisst es in dem Text. Hinter scheinbar «immateriellen» KI-Systemen stehe eine Kette von Ausbeutung und Abhängigkeit. Jede digitale Leistung beruhe auf der oft unsichtbaren Arbeit von Millionen Menschen.

Das Schreiben wird drastisch: «Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.» Auch Menschenhandel im digitalen Raum wird thematisiert, bei dem Menschen zu «Daten» und «Paketen» degradiert würden.

Zugleich betont die Enzyklika die klare Grenze zwischen künstlicher und menschlicher Intelligenz: KI könne zwar «Sprache, Verhalten und Beurteilungen imitieren», besitze aber kein Bewusstsein, kein moralisches Gewissen und verstehe weder «Liebe, Arbeit, Freundschaft und Verantwortung».

Ausbeutung, Macht und Manipulation

KI könne in vielen Bereichen eine «wertvolle Hilfe» sein, räumt der Papst ein. Allerdings warnt er, dass vor allem wenige bereits wohlhabende Menschen von der Technologie profitierten.

Die Enzyklika sieht die Gefahr, dass Macht in wenigen Händen konzentriert wird: «Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen.»

Mit Blick auf soziale Medien stellt das Schreiben fest: «Die Algorithmen, die diese Plattformen steuern, sind nicht darauf ausgelegt, die Wahrheit zu fördern oder den Dialog zu vertiefen, sondern die Verweildauer der Nutzer zu maximieren.»

Der Papst fordert daher, dass Staaten und Gesellschaften Verantwortung für die Regulierung von Technologie übernehmen, anstatt diese den Konzernen zu überlassen. Eigentum an Nutzerdaten müsse geregelt und klare Kriterien für den KI-Einsatz bei öffentlichen Gütern geschaffen werden.

Aufrüstung der Algorithmen und die Entmenschlichung des Krieges

Ein zentraler Kritikpunkt ist die Militarisierung von KI. «Sie kann auch die Schwelle für den Einsatz von Gewalt senken, Verantwortlichkeiten verschleiern und eine Kultur bestärken, in der der Feind auf Daten und das Opfer auf einen ‘Kollateralschaden’ reduziert wird», warnt Leo.

Noch deutlicher wird der Text bei autonomen Waffensystemen: «Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.» KI-gestützte autonome Waffen hätten Kriege «durchführbarer» gemacht.

Die Enzyklika beklagt eine «besorgniserregende Rehabilitierung des Krieges als Instrument der internationalen Politik» und verlangt, dass KI «entwaffnet» werden müsse. Der Einsatz autonomer Waffensysteme müsse den strengsten ethischen Prinzipien unterworfen sein.

Das Lehrschreiben gibt damit faktisch die Lehre vom gerechten Krieg auf. Stattdessen verweist es auf wirksamere Mittel der Konfliktlösung: «Um Konflikte zu bewältigen, verfügt die Menschheit über Mittel, die weitaus wirksamer sind und geeigneter, das menschliche Leben zu fördern, wie zum Beispiel den Dialog, die Diplomatie und die Vergebung.»

Absage an den gerechten Krieg und die Kraft des Dialogs

Der Papst warnt auch vor der manipulativen Kraft von KI-generierten Inhalten: «Bleiben wir der Wahrheit treu!» Durch die «unaufhörlichen Flüsse von Informationen, Meinungen und Bildern» mit immer raffinierteren Algorithmen könnten Entscheidungen und Vorlieben leicht beeinflusst werden.

Einen historischen Bogen schlägt der Zeitpunkt der Veröffentlichung: Auf den Tag genau 135 Jahre zuvor hatte Leos Namensvetter Leo XIII. seine Sozialenzyklika «Rerum novarum» (Über die neuen Dinge) publiziert und damit die katholische Soziallehre als Antwort auf die industrielle Revolution begründet.

Die erste Enzyklika eines neuen Papstes gilt traditionell als eine Art Regierungserklärung für sein Pontifikat. Leos Vorgänger setzten dabei oft innerkirchliche Akzente; Leo XIV. wählt mit der KI einen globalen Zukunftsgegenstand.

Dass mit Chris Olah ein Tech-Unternehmer an der Vorstellung teilnahm, unterstreicht die Brücke zur Wirtschaft. Anthropic mit Sitz in San Francisco weigert sich, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen.

Politische Spannungen und ein prophetisches Papsttum

Dies brachte das Unternehmen in Konflikt mit der US-Regierung. Ex-Präsident Donald Trump bezeichnete Anthropic als «radikal linke und woke Firma». Trump, der nach scharfer Kritik des Papstes am Krieg gegen Iran «kein Fan» Leos ist, nannte den Pontifex «politisch sehr links».

Die Enzyklika endet mit dem Aufruf, die Technik an der Menschenwürde und am Gemeinwohl zu messen. «Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt», fasst das Schreiben zusammen.