Papst warnt vor den Gefahren von KI

Von Almut Siefert

Die Enzyklika von Papst Leo reiht sich ein in die Texte zur kirchlichen Soziallehre und befasst sich hauptsächlich mit der Künstlichen Intelligenz (KI) und deren Auswirkungen auf das Zusammenleben. „Künstliche Intelligenz muss entwaffnet werden“, sagt Leo XIV. während der Präsentation seines Textes am Montag in der neuen Synodenaula des Vatikans.

Es war das erste Mal, dass ein Papst persönlich an der Vorstellung einer Enzyklika teilnahm. Er habe das Wort „entwaffnen“ bewusst gewählt, sagte der Papst, weil „dieser Moment Worte braucht, die Aufmerksamkeit erregen, das Gewissen wecken und Wege für die Menschheit aufzeigen können.“

Erbarmungslose Krieger

Die Enzyklika nutzt zwei biblische Bilder, deren Gegenüberstellung ihr als roter Faden dient: Den Turmbau zu Babel als Symbol für eine technokratische Einheitsmacht, die Vielfalt ausschließt, und den Wiederaufbau Jerusalems als Projekt gemeinsamer Verantwortung. Der Papst skizziert eine „Zivilisation der Liebe“: Eine globale Ordnung sollte auf Dialog, Multilateralismus und der Geschwisterlichkeit aller Völker basieren.

Da KI kein moralisches Gewissen besitze, könne sie Vorurteile ihrer Entwickler reproduzieren und so zu „stiller Ungerechtigkeit“ führen, beispielsweise wenn Algorithmen über Arbeit oder Kreditwürdigkeit von Menschen entscheiden. Die Reduktion der Person im digitalen Raum auf bloße Daten und Leistung müsse verhindert werden. Leo thematisiert auch die Auswirkungen auf die Umwelt: „Aktuelle KI-Systeme erfordern große Mengen an Energie und Wasser, haben erhebliche Auswirkungen auf den Kohlenstoffdioxid-Ausstoß und verbrauchen Ressourcen in großem Umfang.“ So fordert er die Entwicklung nachhaltigerer Lösungen.

Mit Sorge sieht der Papst den Einsatz von KI in Waffensystemen. „Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte“, schreibt er. „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.“ In dem fünften Kapitel warnt der Papst eindringlich vor einer Normalisierung des Krieges: „Heute erleben wir im öffentlichen Diskurs und bei den Entscheidungen zur Aufrüstung einen echten Paradigmenwechsel, mit einer besorgniserregenden Rehabilitierung des Krieges als Instrument der internationalen Politik, während gerade jene ethischen Kriterien, die seinen Einsatz begrenzen, ausgehöhlt werden.“

Eine zentrale Gefahr von KI sei der Verlust menschlicher Verantwortung. „Damit KI die Menschenwürde achtet und wirklich dem Gemeinwohl dient, müssen die Verantwortlichkeiten jederzeit klar sein: angefangen bei jenen, die die Systeme entwerfen und trainieren, bis hin zu jenen, die sie nutzen.“

Einen expliziten Appell richtet der Papst an die Entwickler von KI, die eine besondere ethische und geistige Verantwortung hätten. „Technologische Innovation kann in gewisser Weise eine menschliche Form der Teilnahme am göttlichen Schöpfungsakt sein.“

Künstliche Intelligenz braucht Kritiker

Es brauche Akteure, die „die Sache ernst nehmen, genau hinschauen und die Entwicklungen in eine bessere Richtung lenken“, sagte Christopher Olah, Mitgründer des KI-Unternehmens Anthropic, der bei der Präsentation auf Einladung des Vatikans mit auf dem Podium saß. „Wir brauchen sachkundige Kritiker, die den Forschungslabors sagen, wenn wir versagen. Wir brauchen moralische Stimmen, die sich von Anreizen nicht beirren lassen.“

Soziale Gerechtigkeit wird in „Magnifica Humanitas“ als die Fähigkeit einer Ordnung beschrieben, allen Menschen ein würdevolles Leben ohne Ausgrenzung zu ermöglichen. „Eine gerechte soziale Ordnung im digitalen Zeitalter ist eine, die allen einen gleichberechtigten Zugang zu Chancen garantiert, die Jüngsten und die Fragilsten schützt, Hass und Desinformation bekämpft“, so der Papst. Zudem müsse die Nutzung von Daten und Technologien öffentlicher Kontrolle unterworfen werden, „damit nicht der bloße Profit zum Maßstab wird“.