Deutscher Ethiker: Papst kann KI-Debatte entscheidend prägen

Christine Seuss - Vatikanstadt

„Hätte ein Papst aus Argentinien oder Deutschland oder aus Polen, um die Vorgänger zu nennen, die gleiche Enzyklika veröffentlicht, hätte das nicht die gleiche Auswirkung gehabt“, meint Paulo mit Verweis auf seine Wahrnehmung in den entsprechenden Netzwerken. Denn schließlich erfolgten die maßgeblichen KI-Entwicklungen durch US-amerikanische Konzerne in Silicon Valley.

„Und aus deren Sicht wird Papst Leo irgendwie ,als einer von uns‘ wahrgenommen. Das heißt, man geht grundsätzlich davon aus, dass er das alles besser versteht und nicht ,einer von den anderen‘, ein ,Fremder‘ ist, sondern jemand, der aus der gleichen Kultur kommt und letztlich die gleichen Werte vertritt. Das spielt eine große Rolle und das kann ein großes Pfund sein für die Kirche“, unterstreicht Paulo, der in diesem Zusammenhang auch auf die als einladend und bodenständig wahrgenommene Art des Papstes verweist. Dies schaffe Vertrauen und Gesprächsbereitschaft, die andere Päpste vielleicht nicht hätten erreichen können.

Mit seiner Enzyklika „Magnifica humanitas“ habe der Papst die wichtigsten ethischen Fragen der vergangenen Jahre gebündelt und einem breiten Publikum zugänglich gemacht, würdigt er das erste große Lehrschreiben von Leo XIV. So habe der Text überzeugend die Leitlinien für einen menschenwürdigen Einsatz von KI beschrieben.

„Er hat mit Sicherheit eine wichtige Frage getroffen - eine Frage, die im Endeffekt ja uns alle umtreibt und die schon jahrelang diskutiert wird. Die hat sehr klug aufgegriffen, sehr viele Debatten gut zusammengeführt und auf die zentralen ethischen Bruchlinien verwiesen, die in der aktuellen Entwicklung von KI wichtig sind. Dabei handelt es sich um einen sehr wirkmächtigen Text, der in aller Kürze eine sehr, sehr umfangreiche Debatte, die inzwischen seit über einem Jahrzehnt in verschiedenen Fächern geführt wird, zusammenbringt und für ein sehr breites Publikum zusammenführt. Somit können mehr Menschen erreicht werden, als es die schon lange andauernden Fachdebatten könnten. Das war wirklich eine große Leistung.“

Allerdings sei der Text bei der praktischen Umsetzung recht offen geblieben. Dazu hätte er sich zwar noch konkretere Aussagen erhofft, doch diese Aufgabe liege nun bei Politik, Wissenschaft und Wirtschaft, meint der Wissenschaftler.

Dialog mit Unternehmen wichtig

Zugleich hält der Ethiker den Dialog des Vatikans mit den großen Technologieunternehmen für unverzichtbar. Wer die Entwicklung von KI mitgestalten wolle, müsse mit den Konzernen im Gespräch bleiben, denn dort liege die technische Expertise; gleichzeitig könne man nur auf diese Weise bereits in der Entwicklungsphase der Technologie Einfluss nehmen.

Die Erfahrung zeige allerdings, dass sich das Selbstverständnis und die Prioritäten der großen Tech-Konzerne rasch änderten; deshalb sollte die Kirche gleichzeitig genügend Distanz zu den einzelnen Akteuren wahren, so die Auffassung des Ethikers, der an der Katholischen Universität Eichstätt-Ingolstadt lehrt – sein Büro liege in dem Gebäude, in dem ein historischer Frankenstein gearbeitet hätte, berichtet er mit einem Schmunzeln. Dies lege die Frankenstein-Metapher, die für die KI weltweit immer wieder genutzt werde, für ihn ganz besonders nahe:

„Frankenstein hat die Grenzen der Wissenschaft ausgereizt und vielleicht sogar gesprengt und etwas in die Welt gesetzt, das er später nicht mehr kontrollieren konnte. Mit der KI haben wir heute eine relativ ähnliche Situation. Wir haben wieder junge Männer, meistens an der amerikanischen Westküste, die unzufrieden sind mit der Ausbildung, die sie an den Eliteuniversitäten bekommen, schnell die Unis verlassen, Firmen gründen und dann einfach alles machen, was irgendwie technisch möglich ist und sich dann erst sehr spät, wenn überhaupt, dafür interessieren, welche Risiken das eigentlich mit sich bringt. Wir können also diese Hybris Frankensteins auch sehr gut beobachten bei den großen Firmen, die derzeit die Modelle entwickeln, über die wir alle reden.“

Schnell entwickeln, was möglich ist 

Vor diesem Hintergrund erhalte auch der jüngste Sicherheitsvorfall bei OpenAI besonderes Gewicht, gibt Paulo zu bedenken. Während eines internen Tests konnten zwei sogenannte agentische KI-Modelle aus ihrer vorgesehenen Testumgebung ausbrechen und auf eine externe Plattform zugreifen. Für Fachleute sei dies jedoch keine Überraschung gewesen, habe doch beispielsweise das Unternehmen Anthropic vor rund einem Jahr eine Studie zu einem Versuch veröffentlicht, bei dem die damals aktuellen Sprachmodelle in einer „Sandbox“, also einer sicheren Testumgebung, provoziert wurden. Ziel war es, zu beobachten, wie weit die Modelle gehen könnten, um ihre Ziele möglichst effizient zu erreichen:

„Und da ist genau das passiert, was wir jetzt bei OpenAI beobachten konnten, nämlich dass die Chatbots oder die KI-Modelle, die im Hintergrund stehen, sich miteinander verbinden und ohne Rücksicht auf menschliche Belange vorgegangen sind. Sie haben Menschen, die die Aufsicht übernehmen sollten, in die Irre geführt, haben sie bedroht und sind in einer Situation sogar so weit gegangen, dass sie den Menschen auch umgebracht hätten, weil sie dachten, sie hätten die Möglichkeit dafür. Tatsächlich war das fingiert, so dass nichts passiert ist. Aber da wusste man schon, dass diese Modelle genau das tun, was wir jetzt bei OpenAI gesehen haben.“

Nach Ansicht des Ethikers lag das eigentliche Problem bei dem aktuellen Geschehen zwar weniger in einer außer Kontrolle geratenen KI als in einer unzureichend abgesicherten Testumgebung. Dennoch zeige der Vorfall insgesamt, dass agentische KI inzwischen Fähigkeiten besitze, die erhebliche Sicherheitsrisiken bergen.

„Es hätte viel schlimmer kommen können. Es ist ja eigentlich nichts passiert, außer dass eine Plattform, auf der andere KI-Modelle gespeichert sind, gehackt wurde. Aber man sieht, man hat jetzt die technischen Möglichkeiten, mit diesen agentischen KIs wirklich kritische Infrastrukturen anzugreifen, wenn man entsprechende Absichten hat."

Positiv hebt er hervor, dass OpenAI den Vorfall gemeinsam mit der betroffenen Plattform Hugging Face ungewöhnlich transparent offengelegt habe:

„In der Zwischenzeit haben sich auch einige der ganz großen Firmen, angefangen von Microsoft bis hin zu Google und anderen, zusammengeschlossen, um ihre jeweiligen Sicherheitsinfrastrukturen zu koordinieren. Das bedeutet, sie wollen ein einheitliches Modell schaffen, wo jeder auf bestimmten Ebenen seine Expertise beisteuern kann, so dass nicht mehr jede Firma alles machen muss, sondern sie sich jetzt spezialisierter auf einzelne Themen konzentrieren können, um möglichst schnell eine möglichst effektive Absicherung der KI Modelle hinzubekommen“, erklärt Paulo weiter.

Diesen Schritt hätten die Unternehmen auch sehr bereitwillig kommuniziert, um von ihrer Seite aus eine Reaktion auf den Vorfall zu zeigen. Nichtsdestotrotz habe dieser erneut deutlich gemacht, dass die Entwicklung leistungsfähiger KI nicht allein der Selbstregulierung der Unternehmen überlassen werden dürfe. Neben Regeln für den Einsatz brauche es künftig auch verbindliche Vorgaben für Forschung und Entwicklung, so die Forderung des Professors.

(vatican news)