Medienethikerin: Wenigen Usern ist das Normative der KI bewusst

Indem Papst Leo den Blick auf „Formen der Knechtschaft“ im Zusammenhang mit der KI-Wirtschaft lenkt, benenne er etwa Formen moderner Sklaverei und der Ausbeutung von Menschen im globalen Süden, so Paganini. Auch den extremen Ressourcenverbrauch durch KI und die mit der Technologie verbundene Machtkonzentration spreche der Papst an. „Das sind alles Punkte, die wichtig sind im Bewusstsein zu haben, anzusprechen und zu kritisieren“, so die Medienethikerin.

Dass KI immer stärker in Bewertungsprozesse einbezogen wird, etwa im Versicherungs- und Kreditwesen oder sogar „bis hin in die Justiz hinein“ sei eine reale Gefahr, so Paganini, die die Intransparenz von KI-Anwendungen als Problem benennt. Für einen mündigen Gebrauch von KI-Programmen im Alltag der Menschen empfiehlt sie einen reflektierten Umgang und auch einmal den bewussten Verzicht auf Tools, die eher „hemmen“ als Entwicklung zu fördern.  

Radio Vatikan wollte von der Medienethikerin zunächst wissen, was für sie das Neue in dem Papstschreiben hält und wie sie die Enzyklika insgesamt wahrgenommen hat.

Viele Richtungsentscheidungen schon getroffen

Claudia Paganini: Also neu ist die Thematik KI natürlich. Und es ist schon auch beachtlich, dass der Papst sich auf das Thema so einlässt, dass er da sehr offen mit umgeht. Das finde ich zunächst einmal positiv. Man hätte ja auch irgendwie dran vorbei manövrieren können, aber er spricht eben damit ein Thema, das sehr viele Menschen momentan massiv beschäftigt, direkt an, und ich denke, das ist gut.

Radio Vatikan: Der Papst benennt ja in der Enzyklika Risiken im Zusammenhang mit KI, ohne aber die Digitaltechnik an sich abzuwerten. Er sagt, KI ist „moralisch nicht neutral“ (Magnificat humanitas, 104), es geht darum, wie wir sie gestalten, was wir mit ihr machen. Meinen Sie, dass das den Usern heute bewusst ist, wenn sie KI nutzen?

Paganini: Ich würde meinen, dass es ganz wenigen Menschen bewusst ist, vor allem das stark Normative, was hinter der KI eigentlich mitschwingt. Also dass da ganz viele Richtungsentscheidungen schon getroffen worden sind, bevor ich überhaupt das Tool anwenden kann. Das ist, denke ich, nur wenigen bewusst! Was aber auch wiederum nicht sehr überraschend ist. Es ist das, was wir regelmäßig bei großen medialen Umbrüchen feststellen: dass Menschen erst eine bestimmte Zeit brauchen, um wieder ihre Kompetenzen aufzubauen und auch, um sich einen kritisch distanzierten Zugang anzueignen.

Formen der Knechtschaft

Radio Vatikan: Der Papst lädt mit seiner Enzyklika in der Tat dazu ein, die Prozesse hinter KI zu sehen, er lenkt den Blick auf „Formen der Knechtschaft in direktem Zusammenhang mit der digitalen Wirtschaft“ (Magnificat humanitas, 173), zum Beispiel die Frage der Ausbeutung natürlicher Ressourcen oder der menschlichen Arbeitskraft. Er bringt das auf die Formel „Nichts ist in der Welt der KI immateriell oder magisch“. Der KI werden ja nicht selten fast schon göttliche Attribute zugeschrieben, wie Sie selbst auch in einem Buch herausgearbeitet haben. Wie haben Sie es wahrgenommen, dass der Papst da den Blick auf die realen Prozesse lenkt?

Paganini: Ja, das eine sind mehrere moralisch-ethisch relevante Punkte, die er anspricht und die er sehr klar benennt. Also diese Formen der modernen Sklaverei, die Ausbeutung von Menschen im globalen Süden, der extreme Ressourcenverbrauch, auch die Machtkonzentration, dass wir eigentlich sehr viel Macht in die Hand weniger Player geben. Das sind alles Punkte, die wichtig sind im Bewusstsein zu haben, auch anzusprechen und zu kritisieren. Und das tut der Papst und bringt da wirklich auch sehr treffend, würde ich sagen, zum Ausdruck, was gegenwärtig in der KI-Ethik auch diskutiert wird. Das ist mal das eine.

Die andere Seite mit dem Magischen, dem Zuschreiben von göttlichen Attributen: Es ist für das Oberhaupt der katholischen Kirche sehr nachvollziehbar und berechtigt, sich von so einer Vergöttlichung der KI abzugrenzen, weil das selbstverständlich nicht dem katholischen christlichen Gottesbild entspricht. Allerdings würde ich meinen, dass dieser Appell wahrscheinlich nicht bei den richtigen Leuten ankommt. Denn ich bezweifle, dass diejenigen Leute, die KI vergöttlichen und in KI vielleicht sogar eine neue Gottheit sehen, die Enzyklika aufmerksam lesen und sich durch die entsprechenden Passagen hinterfragt und kritisiert fühlen...

Nicht instrumentalisieren lassen

Radio Vatikan: Für Aufsehen hat gesorgt, dass der Papst seine Enzyklika am Montag gemeinsam mit einem Vertreter der KI-Tech-Branche, nämlich Christopher Olah vom Unternehmen Entropic, vorgestellt hat. Der Vatikan kooperiert mit jenen Vertretern der KI-Branche, die für Regulierung und für Ethik im Bereich KI eintreten. Wie nehmen Sie das wahr?

Paganini: Ich würde meinen, das ist gut. Die Frage ist nur, was ist das Ergebnis? Diese Art von Kooperation ist sicher ganz wichtig, denn man muss ja mit den Leuten ins Gespräch kommen und zwar mit Personen, die wirklich auch was verändern können, die wirklich einen Unterschied machen können, damit eben die Enzyklika des Papstes nicht einfach nur ein frommer Wunsch irgendwo bleibt, der dann im Raum irgendwo verhallt. Also grundsätzlich ist das wichtig.

Die Frage ist nur, ob das Ergebnis auch entsprechend positiv sein wird, weil natürlich immer die Gefahr besteht, dass quasi die Stimme der Ethik oder in dem Fall die Stimme der Religion irgendwie vereinnahmt wird und dann letztlich als eine Art Feigenblatt auch missbraucht wird. Der Papst hat eine sehr hohe Autorität – und sich im Licht des Papstes zu sonnen als Unternehmer, als globaler Player, hat schon einen Wert. Ob bei dieser Zusammenarbeit die Worte des Papstes gehört werden, das ernsthaft umgesetzt wird, ist also eine Frage. Das wird die Zukunft zeigen, ob das eine nette PR-Geschichte ist oder ob ein ernsthaftes Interesse dahintersteckt. Allerdings würde ich schon meinen, dass Papst Leo und sein ganzer Beraterstab kompetent genug sind, um solche Gefahren zu erkennen und entsprechend reagieren zu können.

Am Puls der Zeit

Radio Vatikan: Stichwort Kompetenz. Sie haben die technischen Möglichkeiten von KI als Medienethikerin, die zu dem Thema schon länger arbeitet, im Blick. Leo wird in seiner Enzyklika recht konkret. Frau Paganini, würden Sie sagen, die Enzyklika ist am Puls der Zeit in punkto KI?

Paganini: Das Problem ist, dass sich die KI so schnell weiterentwickelt, dass die Enzyklika wahrscheinlich in dieser Hinsicht nicht lange up-to-date bleiben wird - die aktuellen Anwendungskontexte verändern sich sehr schnell. Aber die grundsätzlichen Überlegungen des Papstes, die das Ganze tragen und stützen und die aus der christlichen Sozialethik entwickelt sind und auf die konkreten momentanen technischen Begebenheiten angewendet sind, werden auch längere Zeit bestehen bleiben. Da ist der Papst, würde ich sagen, am Zahn der Zeit und auch durchaus sehr konkret.

Wo mir vielleicht ein bisschen das Konkrete fehlt, ist bei den Lösungsansätzen. Dass man genauer bestimmt, wer ist für was, in welchem Kontext verantwortlich. Denn es ist ein großes Problem bei der KI, dass irgendwie jeder versucht, die Verantwortung wem anderen zuzuschieben. Also die AnwenderInnen an die HerstellerInnen, die wieder an die Regierung und so weiter und so fort. Und ich glaube, wir müssen, damit wirklich Bewegung in das Ganze reinkommt und wir eben nicht nur bei schönen Worten stehen bleiben, ganz konkret runterbrechen, wer muss in der Situation jetzt was genau tun. Natürlich kann man sagen, das ist nicht die Aufgabe von einer Enzyklika. Die Frage ist dann halt, wessen Aufgabe ist es dann?

Problem der Rechenschaftspflicht

Radio Vatikan: Nun, Papst Leo spricht in seiner Enzyklika jedenfalls sehr konkret das Thema „Accountability“ an. Wie Sie gerade sagten, ist ja im Zusammenhang mit KI die Frage der Rechenschaftspflicht ein Problem. Wer legt für KI-Entscheidungen Rechenschaft ab, wer verantwortet und begründet, kontrolliert und revidiert sie? Diese „Accountability“ ist bei KI nicht automatisch gegeben, die Prozesse sind intransparent. Wie ließe sich das ändern?

Paganini: Also die Transparenz, die Sie angesprochen haben, ist denke ich ganz entscheidend. Dass Menschen mal überhaupt wissen, wo KI im Hintergrund wirkt. Auch das ist gar nicht mehr überall klar. Und mit welchen Daten sie arbeitet, welche Aufträge sie bekommen hat. Denn nur dann kann ich auch entsprechend wieder ins Handeln kommen. Die Gefahr ist tatsächlich, dass KI immer mehr Entscheidungen treffen wird, nämlich in der Bewertung von Menschen, zum Beispiel im Versicherungskontext, im Kreditwesen, am Arbeitsmarkt, sogar bis in die Justiz hinein. Das ist zum Beispiel China gar nicht abgeneigt, dass da eine Vorbewertung durch KI stattfindet, bevor ein menschlicher Richter sich mit einem möglichen Urteilsspruch befasst. Und da verschwimmt wirklich sehr viel. Und da wäre es ganz, ganz wichtig, dass Menschen eine Chance haben zu verstehen, wie überhaupt Entscheidungen zustande gekommen sind.

Mehr Mündigkeit möglich und nötig

Radio Vatikan: Das berührt die Frage der Mündigkeit. „Magnifica humanitas" lenkt den Blick auf den Umgang mit KI, auf Ebene der Mächtigen und Entscheider, aber eben auch ganz konkret im Alltag der Familie, Schule, Gesellschaft. Wie gehen wir mit dieser Technologie um? Frau Paganini, wo sehen Sie konkrete Möglichkeiten, tatsächlich für mehr Mündigkeit im Umgang mit KI zu sorgen?

Paganini: Zunächst einmal finde ich es positiv, dass der Papst eben diese Mündigkeit und den Alltag anspricht, weil damit zumindest bei religiösen Menschen auch vielleicht das Bewusstsein entsteht, dass man selber gefordert ist. Dass es nicht nur etwas ist, was über uns hereinbricht, sondern dass wir Möglichkeit haben, durch unsere Haltung, und dass wir nicht nur die Möglichkeit, sondern auch den Auftrag haben, durch die Art und Weise, wie wir mit der KI umgehen, mitzubestimmen und Weichen zu stellen. Ich denke, wenn das Menschen, die eben christlich sind, die religiös sind, von einer religiösen Autorität hören, dann bewirkt es sicherlich mehr, als dass das irgendwo eine Medienethikerin bei einem Vortrag der Erwachsenenbildung erzählt. Das ist schon mal auf jeden Fall positiv.

Radio Vatikan: Und was sollten die Menschen wirklich tun?

Paganini: Ich würde meinen, man sollte versuchen, jeweils das, was die KI mir anbietet, noch einmal zu reflektieren und mich zu fragen, stimme ich dem zu oder sehe ich das anders? Also die eigene Urteilsfähigkeit erhalten, sie weiter schulen und auch dann einmal vielleicht sich trauen, in eine andere Richtung zu gehen oder zu sagen: In dem Kontext verzichte ich jetzt mal bewusst auf meinen KI-Assistenten. Das heißt, wir brauchen stärker die Fähigkeit der Auswahl und des Weglassens von Tools, die eigentlich nicht dazu beitragen, dass mein Leben besser wird, dass ich mich als Person weiterentwickeln kann, sondern die mich eher hemmen."

Wahrheit 2.0

Radio Vatikan: Wichtige Themen in Papst Leos Enzyklika, die er als Fortführung der Sozialenzyklika „Rerum novarum“ begreift, ist auch die Frage der Arbeit und der Entwertung von Arbeit. Auch um menschliche Freiheit, Freiheit von Kommerzialisierung. Und es geht um die Frage der Wahrheit. Frau Paganini, wie lässt sich Wahrheit hochhalten, in der Welt der digitalen Verfälschungen und Verzerrungen durch KI?

Paganini: Ja, der Wahrheitsbegriff - das ist wirklich sehr schwierig... Auf der einen Seite brauchen wir als menschliche Gesellschaft ein Mindestmaß an Zuverlässigkeit. Ich würde es vielleicht lieber Zuverlässigkeit als Wahrheit nennen. Wir brauchen Informationen, die solide sind. Wir brauchen Anker, wo wir uns irgendwie festhalten können. Sonst nimmt sich jegliche Art von Kommunikation eigentlich ihr eigenes Fundament. Wenn ich auf nichts mehr vertrauen kann, dann wird Zusammenleben eigentlich ziemlich unmöglich. Das hat auch Max Scheler (Deutscher Philosoph und Anthropologe 1874-1928, Anm.) mal ganz schön zum Ausdruck gebracht.

Zugleich ist die Wahrheit auch etwas Gefährliches. Denn zu denken, man sei im Besitz der Wahrheit, kann auch sehr viele negative Folgen haben, gerade im religiösen Kontext, wo Menschen im Namen ihrer eigenen religiösen Wahrheit schreckliche Dinge tun. Sich zum Beispiel als Selbstmordattentäter in die Luft sprengen, weil sie meinen, die Wahrheit ist, dass Gott das von mir will. Oder Religionskriege und so weiter und so fort. 

Radio Vatikan: Bei der Frage Wahrheit und KI geht es ja vorrangig darum, mit welchen Daten KI gefüttert wird. Wenn bestimmte Daten nicht gefüttert werden, werden bestimmte Antworten auch gar nicht gegeben. Die kongolesische Theologin Léocadie Lushombo, die bei der Vorstellung der Enzyklika am Montag neben dem Papst auf dem Podium saß, hat etwa darauf aufmerksam gemacht, dass KI die kulturelle Realität indigener Kultur und auch die des menschlichen Lernens nicht respektiert geschweige sie denn nachbilden kann.

Nur noch eine abschließende Frage an Sie: Werden Sie in Ihrer Arbeit, also in ihrem Forschen und Lehren, die Enzyklika des Papstes als als Tool nutzen?

Paganini: Ich würde mal sagen, das hängt sehr von meinem Publikum ab. 

Radio Vatikan: Vielen Dank.

Das Interview in voller Länge ist hier nachzuhören: