„Vor Gefahren der KI rettet nur Rückbesinnung auf den Menschen“

Foerst lehrt und erforscht Computer-Ethik an der St. Bonaventure University, einer Franziskaner-Hochschule im Bundesstaat New York.

Gudrun Sailer - Vatikanstadt

Frau Prof. Foerst, Papst Leo verurteilt in seinem Lehrschreiben unter anderem auch Transhumanismus, der ja menschliche Perfektion anstrebt, vielmehr die Auflösung der Barriere zwischen Mensch und Maschine, also übermenschliche Perfektion. Dem gegenüber stellt der Papst die Verletzlichkeit, die dem Menschen als Kreatur eingeschrieben ist und die ihn für Mitgefühl und für Gott öffnet. Ist die positiv gedeutete Verletzlichkeit des Menschen ein Gedanke, der in technologisch orientierten Industriezweigen auch nur am Rand eine Rolle spielt?

Anne Foerst: Papst Leo hat hier mit der – in der katholischen Kirche eigentlich üblichen – Präferenz für Rationalität gebrochen. Normalerweise ist das Menschenbild in der katholischen Kirche immer sehr von Rationalität geprägt. Papst Leo stellt die Empathie in den Vordergrund und die Verkörperung. Das ist natürlich für mich Gold wert, weil ich an verkörperter künstlicher Intelligenz arbeite. Das Menschenbild, das aus Empathie, Verletzlichkeit, Körperlichkeit besteht, steht radikal dem Menschenbild gegenüber, das der Transhumanismus hat, der ja nun ganz klar Anti-Körper ist, wo man das Gehirn im Prinzip herunterladen kann auf den Computer und dadurch ewig leben kann.

Meiner Meinung nach hat der Papst da angeknüpft an das, was die Wissenschaft in den letzten 30 Jahren immer mehr betont: dass die sozialen Fähigkeiten des Menschen im Zentrum der Intelligenz stehen, und dass infolgedessen Dinge wie Schach und Rationalität mehr oder weniger Nebenprodukte sind. Da ist der Papst, meine ich, ganz in der Zeit und auch sehr stark. Ich glaube ebenfalls, dass das auch das ist, was uns vor der künstlichen Intelligenz retten kann: unser Herz.

Prof. Anne Foerst

Unser Herz rettet uns vor der KI: Wie genau ist das zu verstehen?

Anne Foerst: Es gibt vieles, was diese Maschinen bereits besser können als wir. Sie sind schneller, sie sind werden nicht hungrig und so weiter. Was aber diese Maschinen überhaupt nicht können, ist Empathie. Sie können sich zwar so benehmen, als wären sie empathisch, sie sind es aber nicht. Liebe, Vertrauen, Zuversicht, sich gegenseitig Mut machen, Zuspruch: All diese Dinge, die den Kern der menschlichen Beziehungen ausmachen, sind einer solchen Maschine nicht gegeben. Das kann sie zwar gut imitieren, gut nachäffen, aber es ist ja nicht echt. Ich glaube wirklich, wir können uns diesen Maschinen am besten entgegenstellen, indem wir unsere grundsätzliche Menschlichkeit zelebrieren. Indem wir grundsätzlich feiern, wie wunderbar wir gemacht worden sind, wie wunderbar wir geschaffen sind, dass wir eben Empathie haben, dass wir Freundschaft haben, dass wir Herzen haben, dass wir Körper sind. Das sollte zelebriert werden, gegen das Menschenverständnis in der künstlichen Intelligenz.

Anwendungen von KI   (ANSA)

Der Mitgründer des KI-Konzerns Anthropic Christopher Olah war bei der Präsentation der Enzyklika im Vatikan einer der Sprecher neben Papst Leo. Vor wenigen Tagen hat Anthropic tatsächlich die vom Papst vorgeschlagene Pause bei der Entwicklung leistungsstarker künstlicher Intelligenz durch Tech-Konzerne ins Gespräch gebracht. Wie realistisch ist das und auch wie sinnvoll angesichts von Konkurrenz bis hin zu kriminellen Organisationen und Terrorgruppen, die sicherlich nicht kooperieren werden?

Anne Foerst: Ein Stopp zu dieser Zeit ist völlig unmöglich. Die Maschinen bilden sich ja selbst weiter und werden dauernd besser und schneller und angewandter. Außerdem ist es fast nicht möglich, einen Stopp aller Firmen zu erreichen. China würde auf jeden Fall weitermachen und dann das Rennen um die bessere KI gewinnen. Insofern halte ich einen Stopp für völlig ausgeschlossen. Ich fand Olahs Kommentare bei der Präsentation im Vatikan nicht sehr gut. Er will damit im Prinzip sagen, guck mal, wie toll ich bin. 

Also der Versuch eines Marketingzugangs von Seiten eines KI-Gründers, um auf das katholische Publikum Einfluss zu gewinnen?

Anne Foerst: Würde ich sagen. Ich weiß nicht, ob er nur auf katholische Leute Einfluss nehmen will. Die Enzyklika hat, auch wenn sie katholisch ist, in der ganzen christlichen Gesellschaft sehr, sehr aufmerken lassen. Die Firmen, die künstliche Intelligenz herstellen, sind erstaunlich ethikfrei. Es gibt keine Ethiker, die da mitarbeiten. Auch bei den ersten großen Konferenzen zur künstlichen Intelligenz waren nie Ethiker dabei. Insofern haben sie einfach einen schlechten Ruf bei Leuten, die etwas von Ethik verstehen, weil sie über die Konsequenzen ihrer Technologie überhaupt nicht nachdenken. Das ist bei denen nicht im Blickfeld. Und jetzt, wo so eine Enzyklika geschrieben wird, wo ein Papst darauf hinweist, wie gefährlich diese Technologien sind, da plötzlich steht einer aus einem solchen Konzern auf und sagt, oh ja, wir müssen eine Pause machen. Ich zumindest glaube nicht, dass das authentisch ist.

Wie wird das päpstliche Lehrschreiben in den USA aufgenommen? 

Anne Foerst: Innerhalb der katholischen Kreise wird natürlich immer noch sehr dran gearbeitet und es wird stark rezipiert. Aber das allgemeine Interesse ist verschwunden. Die New York Times hatte einen Artikel darüber, dass im Prinzip die Enzyklika in Silicon Valley überhaupt nicht aufgenommen wurde. Ich würde sagen, es war eine Kanonenkugel im Wasser: Ein riesiger Splash, und jetzt ist davon nichts mehr zu hören. Es ist natürlich klar, dass die Künstliche Intelligenz hier entwickelt worden ist, dass sie hier auch am meisten benutzt wird, dass in den USA auch, glaube ich, ein sehr viel unkritischerer Umgang mit Technologie einfach Standard ist. Deshalb bringt so eine Enzyklika zwar Leuten zum Nachdenken, aber dann hören sie auch wieder auf, nachzudenken und machen weiter wie vorher.

Sie sind selbst evangelische Theologin und Informatikerin. Hätte denn einen solchen Grundlagentext wie diese Enzyklika auch ein religiöses Oberhaupt einer anderen Konfession oder Religion schreiben können oder vielmehr müssen, Ihrer Meinung nach?

Anne Foerst: Ich bin schon enttäuscht, dass keine andere Kirche bisher auf die künstliche Intelligenz als Kirche reagiert hat. Da ist also der Papst Leo wirklich federführend, und das ist ganz fantastisch. Jedoch inhaltlich, würde ich sagen, könnte so etwas vom protestantischen Standpunkt nicht geschrieben werden. Die protestantische Theologie stellt Sünde in den Vordergrund. Die Sünde entfremdet grundsätzlich einen Menschen von sich selbst, von anderen Menschen, von Gott und ich würde auch sagen von der Natur. Dieses grundsätzliche Entfremdetsein macht einen gemeinsamen Aufstand gegen die künstliche Intelligenz fast unmöglich, weil es einfach in der menschlichen Natur liegt, sich Macht anzueignen. Ich würde sagen, dass ein protestantischer Brief sehr viel pessimistischer wäre, als ein Papst Leo das geschrieben hat. Trotzdem ist es schade, dass da bisher noch nichts gekommen ist. 

Frau Professor Foerst, warum würden Sie jedem empfehlen, diese Enzyklika zumindest in Auszügen zu lesen? Warum ist die so wichtig?

Anne Foerst: Das ist das erste umfassende Positionspapier, das jemals gegen die künstliche Intelligenz geschrieben worden ist. Es gibt hier und da Aufsätze zur Ethik künstlicher Intelligenz. Aber hier geht Papst Leo wirklich umfassend auf alles ein. Fantastisch ist auch, wie er die künstliche Intelligenz in die katholische Soziallehre einbaut. Viele wissen überhaupt nichts von der Soziallehre. Wie wichtig die Soziallehre ist und wie die künstliche Intelligenz da hineinpasst, ist deshalb interessant zu lesen. Zudem: die klare Forderung nach dem Aufhalten der Technokraten, die derzeit die Macht besitzen – das ist alles so neu und so fantastisch. Da müsste jeder einfach mal hineinlesen. Und wie gesagt, das neue Verständnis von Intelligenz, das nicht mehr Rationalität in den Mittelpunkt stellt, sondern Empathie.

Sie sagen, es ist eine Enzyklika vom Papst gegen künstliche Intelligenz. Er schreibt aber eigentlich ausdrücklich, dass es das nicht ist, sondern es ist klar, dass diese Technologie hier ist und uns weiter begleiten wird und dass die katholische Kirche keinen grundsätzlich technikkritischen Ansatz verfolgt. Und dann schlägt er seine ethischen Pflöcke ein. Also ist es kein Schreiben gegen KI, es ist ein Schreiben für eine richtig genutzte KI, richtig?

Anne Foerst: Da haben Sie recht. Es ist ein Schreiben für eine richtig genutzte KI. Aber wie ich vorher schon gesagt habe, der Zug ist abgefahren. Es ist fast unmöglich, die KI einzugrenzen. Insofern ist das, was der Papst anvisiert in der Nutzung der KI, aus meiner Sicht problematisch. Und das andere, wo ich ihn leider Gottes kritisieren muss, ist, dass er die Technik als neutral einstuft und dass es um unsere Art und Weise geht, wie man die Technologie nutzt.

Zum Beispiel? 

Anne Foerst: Zum Beispiel, hier in Amerika gibt es sehr, sehr viele Waffen. Der Standardspruch von Waffenbefürwortern ist: Ein Gewehr erschießt keinen Menschen, ein Mensch erschießt einen Menschen. Das ist Unsinn. Wenn der Mensch kein Gewehr hätte, dann würde er auch keinen erschießen. Technologie ist nicht neutral. Technologie ist nicht einfach da, sondern Technologie ist von Menschen entwickelt worden für einen bestimmten Zweck, und dann wird sie diesem Zweck gerecht. Und künstliche Intelligenz ist entwickelt worden als Weiterführung von sozialen Medien, weil man gemerkt hat, wie viel Geld man damit machen kann. Insofern ist künstliche Intelligenz selbst nicht neutral. Dass es daher einen vernünftigen Umgang mit künstlicher Intelligenz gibt, ist meiner Meinung nach ausgeschlossen. Insofern würde ich sagen, dass der Papst da ein bisschen zu optimistisch ist.

(vatican news – gs)