„Die KI muss entwaffnet werden“: Papst Leo XIV. fordert Restriktionen für AI

Mit seiner ersten Enzyklika hat Papst Leo XIV. das Thema Künstliche Intelligenz ins Zentrum seines Pontifikats gerückt. Das Lehrschreiben mit dem Titel „Magnifica Humanitas“ („Großartige Menschheit“) widmet sich den Auswirkungen der Technologie auf die Menschen und ihr Zusammenleben. Der Text wurde am Pfingstmontag im Beisein des Papstes im Vatikan der Öffentlichkeit präsentiert und umfasst im italienischen Original 105 Seiten.

Die Forderungen des Papstes

Leo XIV., der erste US-Amerikaner an der Spitze der katholischen Weltkirche, sieht in der KI „ein wertvolles Hilfsmittel, das Vorsicht erfordert“. Im Zentrum seiner Kritik steht die Machtfrage: Die Kontrolle über die Technologie liege nicht in der Hand der Staaten, sondern von „großen wirtschaftlichen und technologischen Akteuren„. Das berge die Gefahr der Intransparenz.

Konkret fordert der Papst laut Vatican News eine wachsame Auseinandersetzung mit KI, bei der Verantwortlichkeiten jederzeit klar sind (accountability), eine angemessene Politik und rechtliche Rahmenbedingungen, eine unabhängige Aufsicht sowie die Aufklärung der Nutzer. Vor allem brauche es einen Ethikkodex, der den Kriterien sozialer Gerechtigkeit folgen sollte. Im Lehrschreiben heißt es dazu: „Eine moralischere KI nützt nichts, wenn diese Moral von wenigen bestimmt wird“.

Auch die ökologische Dimension findet Eingang in das Schreiben: „Aktuelle KI-Systeme erfordern große Mengen an Energie und Wasser, haben erhebliche Auswirkungen auf den Kohlenstoffdioxid-Ausstoß und verbrauchen Ressourcen in großem Umfang“, heißt es darin. Bereits im Vorfeld der Veröffentlichung hatte Leo XIV. betont, die Herausforderung sei „nicht technologischer, sondern anthropologischer Natur„.

Die Position zu autonomen Waffensystemen

Besonders deutlich – und ungewöhnlich umfangreich – fällt die Auseinandersetzung mit der militärischen Dimension von KI aus. Mehrere Abschnitte des Lehrschreibens widmen sich explizit der Frage von KI und Krieg, gegliedert in eigene Kapitel des Originaltextes unter den Überschriften „Die Normalisierung des Krieges“, „Entgrenzte Gewalt“ und „Waffen und KI“.

Unter die Maxime „Künstliche Intelligenz muss entwaffnet werden“ stellt Leo XIV. seine Argumentation. Dabei geht es ihm ausdrücklich nicht um eine pauschale Technikfeindlichkeit. „Entwaffnen bedeutet nicht, Technologie abzulehnen, sondern zu verhindern, dass sie die Menschheit beherrscht“, schreibt er. Die KI sei vielmehr von der „Logik des militärischen, wirtschaftlichen und kognitiven Wettbewerbs“ zu befreien.

Kernpunkt seiner Kritik ist die Senkung der Hemmschwelle zum Krieg. Der Papst zitiert eine frühere Feststellung des Heiligen Stuhls: „Die zunehmende Leichtigkeit, mit der operationell autonome Waffensysteme eingesetzt werden können, macht Krieg ‚durchführbarer‘ und unterwirft ihn weniger der menschlichen Kontrolle, was dem Grundsatz widerspricht, dass der Einsatz von Waffengewalt nur als letzte Option in Fällen legitimer Verteidigung erfolgen sollte“. Damit knüpft Leo XIV. an das katholische Konzept des „gerechten Krieges“ an und stellt fest, dass KI dieses ethische Korrektiv unterlaufe.

Eine klare rote Linie zieht der Papst bei der Entscheidung über Menschenleben. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden, heißt es in dem Schreiben. Die menschliche Kontrolle über tödliche Entscheidungen sei nicht delegierbar – ein Punkt, der sich mit Positionen vieler Rüstungskontroll-NGOs deckt, die seit Jahren ein Verbot von „Lethal Autonomous Weapons Systems“ fordern.

Eng damit verbunden ist das Argument der moralischen Distanz: „Jede Technologie, die es erleichtert, zuzuschlagen, ohne das Gesicht des Gegners zu sehen, senkt die moralische Schwelle des Konflikts“, schreibt Leo XIV. Der entscheidende Satz, der bereits am Tag der Veröffentlichung weltweit zitiert wurde, lautet: „Es gibt keinen Algorithmus, der Krieg moralisch akzeptabel machen kann“. Technologie könne Kriege „schneller und unpersönlicher“ machen – und dadurch die moralische Hemmschwelle für Gewalt sinken lassen.

Der Papst stellt diese Entwicklung in einen größeren geopolitischen Kontext. Er kritisiert den Ausbau der Rüstungsindustrie, das nukleare Wettrüsten sowie das Entstehen neuer bewaffneter Gruppen – darunter auch dschihadistische Bewegungen, die Konflikte aus Machtinteressen weiter anheizten. Im selben Atemzug verurteilt er auch die territoriale Logik moderner Kriege: „Jeder Versuch oder Plan, eine Nation auszulöschen oder zu unterwerfen, ist schwerwiegend unmoralisch und somit inakzeptabel“.

Als Antwort fordert Leo XIV. strenge, international geteilte ethische Richtlinien und verbindet die Waffenfrage explizit mit der Krise des Multilateralismus, die er in einem eigenen Abschnitt der Enzyklika behandelt. Bei der Vorstellung im Vatikan – ein Novum, bei dem der Papst selbst zugegen war – mahnte er, angesichts der rasanten Entwicklung wachsam zu sein.

Anthropic auf der Bühne des Vatikans

Bemerkenswert ist nicht nur der Inhalt der Enzyklika, sondern auch das Setting ihrer Präsentation. Neben Kurienkardinälen sprach auch Chris Olah, Mitgründer des KI-Unternehmens Anthropic und Leiter des Interpretability-Teams. Es war nicht das erste Mal, dass Olah in einem mit Katholiken gefüllten Raum stand: Vielmehr war es der jüngste Schritt in einer Reihe von Annäherungen des milliardenschweren KI-Unternehmens an religiöse Führer. Im März hatte sich eine kleine Gruppe von Christen in Anthropics Hauptsitz in San Francisco zu einem teils von Olah organisierten Treffen versammelt.

Brian Patrick Green, ein Tech-Ethik-Experte an einer katholischen Universität im Silicon Valley, gehörte zu mehreren religiösen Führern, Theologen und Ethikern, die seit Januar an teils tagelangen Gesprächen mit dem Unternehmen teilgenommen haben – einschließlich Sitzungen mit den Programmierern, die die KI-Modelle selbst entwickeln. Im April nahm Green an einem Treffen zwischen Anthropic-Programmierern und rund 15 christlichen Führungspersönlichkeiten teil.

Laut Anthropic selbst handelt es sich um einen breiter angelegten Dialog: In einer Medienmitteilung erklärte das Unternehmen, es habe „in den vergangenen Monaten“ Dialoge mit Gruppen organisiert, deren Arbeit und Traditionen für die durch KI aufgeworfenen Fragen relevant seien. Die erste Gesprächsrunde habe mit „Weisheitstraditionen“ stattgefunden – mit Gelehrten, Geistlichen, Philosophen und Ethikern aus mehr als 15 religiösen und kulturellen Hintergründen.

Der „Faith-AI Covenant“ als überreligiöses Format

Parallel dazu hat sich ein zweites Format etabliert, an dem auch Konkurrent OpenAI teilnimmt. Führende Vertreter verschiedener religiöser Gruppen trafen sich kürzlich mit Repräsentanten von Anthropic und OpenAI beim ersten „Faith-AI Covenant„-Runden Tisch in New York, um zu diskutieren, wie Moral und Ethik in die sich rasant entwickelnde Technologie eingebettet werden können.

Organisiert wurde das Treffen von der in Genf ansässigen Interfaith Alliance for Safer Communities, die sich mit Themen wie Extremismus, Radikalisierung und Menschenhandel befasst. Weitere Runde Tische sind unter anderem in Peking, Nairobi und Abu Dhabi geplant. Ziel der Initiative sei laut der Mitorganisatorin Baroness Joanna Shields letztlich „eine Reihe von Normen oder Prinzipien“, die von verschiedenen Gruppen und Glaubensrichtungen – von Christen über Sikhs bis hin zu Buddhisten – mitgestaltet werden und an die sich Unternehmen halten sollen.

Dass ein gemeinsamer Nenner schwer zu finden sein dürfte, räumt die Initiative selbst ein. „Religiöse Gemeinschaften sehen Prioritäten unterschiedlich“, sagte Rabbi Diana Gerson, Teilnehmerin der Gesprächsrunde und stellvertretende geschäftsführende Vizepräsidentin des New York Board of Rabbis.

Historischer Kontext und Kritik

Die Kontakte zwischen Vatikan und Tech-Industrie sind keineswegs neu. Unter Papst Franziskus initiierte der Vatikan 2016 die Minerva Dialogues – benannt nach der römischen Basilika Santa Maria sopra Minerva – die zu jährlichen Gesprächen zwischen Kirchenvertretern und Tech-Führungskräften über KI-Ethik wurden. 2020 entwickelte die Päpstliche Akademie für das Leben den „Rome Call for AI Ethics„, den unter anderem Microsoft, IBM und Cisco unterzeichneten. Anthropic gehört nicht zu den Unterzeichnern.

Nicht alle Beobachter sehen die enge Verbindung zwischen Tech-Konzernen und Glaubensgemeinschaften wohlwollend. „Ich denke, die meisten religiösen Menschen, und sicherlich Menschen aus den meisten abrahamitischen Religionen, würden der Vorstellung widersprechen, dass ein System wie Anthropics Claude jemals Personalität besitzen könnte“, sagte Will Jones, der die Glaubens-Outreach-Bemühungen am Future of Life Institute leitet.

Auch das Timing der Annäherung wird unterschiedlich gedeutet. Manche Analysten beschreiben Anthropics Präsenz bei der offiziellen Vorstellung des Dokuments als geschickten Geschäftszug – das Unternehmen, das derzeit mit der Trump-Regierung über Kreuz liegt, versuche dadurch sowohl moralischen als auch marktwirtschaftlichen Boden zu gewinnen, insbesondere in europäischen Ländern.