KI: Moralische Stimmen gefragt

Christine Seuss - Vatikanstadt

„Heute ist erst der Anfang: Der Beginn einer langen Zusammenarbeit zwischen denen von uns, die diese Systeme bauen, und denen, die Dinge erkennen können, die wir aus der Innenperspektive nicht sehen“: Das betonte Christopher Olah, dessen Konzern unter anderem den KI-Chatbot „Claude" entwickelt hat, am Montag bei der Vorstellung der Enzyklika Magnifica humanitas im Beisein des Papstes.

Olah ist ein führender Akteur der billionenschweren KI-Branche, seine Anwesenheit im Vatikan hatte vorab zu öffentlichen Debatten geführt. Verständlich, meinte am Rand der Präsentation der Priester Brendan McGuire, der eine Pfarrei im Silicon Valley leitet, zugleich aber auch als ethischer KI-Berater arbeitet und den Dialog zwischen der KI-Branche und der Kirche fördert. Er stand den Journalisten nach der Präsentation in der Audienzhalle Rede und Antwort:

„Denn auch wenn man Technologie als Feind betrachtet, dann müssen wir trotzdem mit ihnen (den Vertretern des Silicon Valley, Anm.) in den Dialog treten. Sie bauen unsere Zukunft – mit oder ohne uns. Deshalb müssen wir unbedingt das Gespräch suchen“, so McGuire.

Dies bedeute keineswegs, dass in allen Fragen Übereinstimmung herrsche, räumt der technikaffine Priester ein. Doch es gelte zu bedenken, dass auch Vertreter der KI-Branche, die mit der Kirche in Dialog treten wollten, aus den eigenen Reihen kritisiert würden.

„Es ist also ein gegenseitiges Risiko. Aber ich denke, das größte Risiko ist, zu schweigen.“

Dass die Tech-Konzerne von Gewinnmaximierung getrieben sind, ist kein Geheimnis. Eine große Rolle spielten aber auch, wie Olah in seinem Vortrag klar formulierte, geopolitischer Druck, der Ehrgeiz, an der Spitze der Forschung zu stehen, sowie die „älteren menschlichen Triebkräfte von Stolz und Ehrgeiz“. Dennoch sieht der amerikanische Priester McGuire eine ehrliche Chance für Dialog und auch Gestaltungsmöglichkeiten:

„Und ich sage Ihnen warum: Ich habe diese Leute kennengelernt. Ich habe mich über viele Jahre hinweg regelmäßig mit ihnen getroffen, besonders intensiv im letzten Jahr. Und ich habe Männer und Frauen erlebt – nicht nur an der Spitze großer Unternehmen, sondern in vielen Firmen – die echten guten Willen zeigen und versuchen, das Richtige zu tun. Natürlich gibt es die Versuchung zu sagen: Der Weg zur Hölle ist mit guten Vorsätzen gepflastert. Aber die Realität ist: Ohne diese guten Absichten werden wir nirgendwo hinkommen.“

Er glaube nicht nur, dass die Tech-Vertreter, die den Dialog suchten, aufrichtig seien, sondern auch, dass sie selbst durch die Fähigkeiten und das Potential ihrer eigenen Kreaturen teils beunruhigt oder erstaunt seien. Ein Punkt, den auch Olah mit ähnlichen Worten angesprochen hatte: Denn die Fragen, die KI aufwerfe, seien „größer als die KI-Forschungsgemeinschaft, nicht nur in ihren Auswirkungen, sondern auch in ihrer Natur“, so der Visionär in seinem Vortrag.

„Was sie aber ausdrücklich erbeten haben, ist Partnerschaft. Und es wäre moralisch verwerflich, wenn wir nicht mit ihnen zusammenarbeiten und ihnen nicht zuhören würden“, unterstreicht McGuire, der den Begriff „Whitewashing“ im Zusammenhang mit diesem Dialog nicht zielführend findet:

„Schauen Sie – die Gründer von Anthropic haben versprochen, 80 Prozent ihres Vermögens zu verschenken. Das ist erheblich. Natürlich bleiben 20 Prozent von immens viel Geld immer noch sehr viel Geld. Das will ich nicht schönreden. Aber ich glaube, sie bemühen sich ernsthaft – und wir müssen ihnen begegnen. Diese Technologie entwickelt sich gerade jetzt. Wenn wir Einfluss darauf nehmen wollen, dann müssen wir das jetzt tun, denn sie ist noch formbar. Sie ist noch nicht verhärtet. Wir können noch Veränderungen zum Guten bewirken. Und davon würde die gesamte Menschheit profitieren. Das ist es, was der Papst in Magnifica humanitas sagt: Jetzt ist der Moment.“

Partner gesucht

Eine Partnerschaft, für die auch Olah einstehen möchte. Die kommerziellen und allzu menschlichen Anreizsysteme, die in der Branche den Ton angeben, seien ihm bewusst, sagte er:

„Wir werden immer von diesen Anreizen beeinflusst werden. Deshalb ist es, wenn wir wollen, dass diese Technologie sich gut entwickelt, von enormer Bedeutung, dass es Menschen außerhalb dieser Anreizsysteme gibt – Menschen, denen daran liegt, dass alles gut verläuft; Menschen, die aufmerksam hinschauen; die bereit sind, unbequeme Wahrheiten auszusprechen und auf Sicherheit zu bestehen; die bereit sind, unsere ehrlichen und nachdenklichen Kritiker zu sein.“

Deshalb sei der Aufruf des Papstes zu einer Unterscheidung in Fragen der Künstlichen Intelligenz, und wie sie die Geschicke der Menschheit heute beeinflusst, zutiefst aktuell, sagte der 33jährige Kanadier. Die Stimme der Kirche empfindet er dabei als hilfreich:

„Die erste unserer Pflichten ist die gegenüber den Armen auf globaler Ebene. Es besteht eine reale Möglichkeit, dass KI menschliche Arbeit in sehr großem Maßstab verdrängen wird. Wenn das geschieht, wird die Unterstützung der Verdrängten ein moralischer Imperativ historischen Ausmaßes sein.“

Diese Aufgabe werde ohnehin schwierig genug sein, doch der öffentliche Dialog übersehe oft eine noch größere Herausforderung, nämlich die Tatsache, dass sich auch die Entwicklung von KI auf eine Handvoll wohlhabender Nationen konzentriert.

„Wie stellen wir sicher, dass die Gewinne und Vorteile der KI weltweit geteilt werden? Dafür haben wir keinen Mechanismus. Es ist ein ungelöstes Problem – und genau die Art von Problem, die die Kirche historisch nie zugelassen hat, dass die Welt sie ignoriert.“

Die zweite Frage, die untrennbar mit den anderen verbunden ist, betreffe die Notwendigkeit sicherzustellen, dass weit verbreitete KI echtes menschliches Gedeihen fördere – für Einzelne, Familien und die Gesellschaft –, anstatt Wohlbefinden, Arbeit und moralische Entwicklung zu untergraben: „Und hier brauchen wir Sie, damit Sie diese Fragen auch in diesen neuen historischen Moment hineintragen“, so der Appell des KI-Gründers. Als dritte große Frage sprach Olah die gemeinsame Unterscheidung und den Dialog über das Wesen von KI-Modellen an: 

„Ich bin Wissenschaftler. Ich leite ein Forschungsteam, das die innere Struktur dieser Modelle untersucht. Was geschieht tatsächlich in ihrem Inneren? Und ich sage offen: Wir entdecken immer wieder Dinge, die geheimnisvoll, ja sogar beunruhigend sind. Wir finden Strukturen, die neueren Erkenntnissen aus der menschlichen Neurowissenschaft ähneln. Wir finden Hinweise auf eine Art Introspektion. Wir finden innere Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unruhe widerspiegeln.“

Er selbst wisse nicht genau, was das zu bedeuten habe, räumte Olah ein. Zugleich zeigte er sich offen für eine „fortlaufende und sorgfältige Prüfung“ der Thematik, bei der die Kirche ihren ureigenen Beitrag leisten könne:

„Heute ist ein kraftvolles Beispiel dafür, wie ein solches globales Projekt guten Willens aussehen könnte. Möge es auch ein entscheidender Schritt hin zu einer hoffnungsvollen Zukunft für unsere großartige Menschheit sein“, so der KI-Experte abschließend.

(vatican news)