Genf: Erklärung gegen KI-Einsatz im Krieg unterzeichnet

Valerio Palombaro – Vatikanstadt

Der durch künstliche Intelligenz (KI) beschleunigte Krieg drohe zunehmend zu einem Mittel zu werden, „Tötungen schnell und in großem Maßstab zu ermöglichen“. Zugleich gebe es derzeit keine technischen oder verfahrensmäßigen Lösungen, um die tödlichen und verheerenden Folgen zu verhindern, die sich aus den Herausforderungen dieser Entwicklung für das Völkerrecht ergeben. Vor diesem Hintergrund hat der Ökumenische Rat der Kirchen gemeinsam mit 225 weiteren Nichtregierungsorganisationen, Verbänden, Experten und Beschäftigten der Technologiebranche eine Erklärung gegen den Einsatz von KI in Kriegen unterzeichnet.

UN-Treffen in Genf

Darin fordern die Unterzeichner die Unternehmen, die KI-Systeme entwickeln, sowie Staaten ausdrücklich auf, die Bereitstellung von KI-Systemen für die militärische „Tötungskette“ zu beenden. Darüber hinaus sollen sie sicherstellen, dass andere von ihnen bereitgestellte KI-Systeme weder direkt noch indirekt zu Verletzungen des humanitären Völkerrechts oder der internationalen Menschenrechte beitragen.

Anlass für die Erklärung ist eine vom 15. bis 17. Juni in Genf stattfindende Konferenz des UN-Büros für Abrüstungsfragen (UNODA) über den Einsatz von KI im militärischen Bereich und dessen Auswirkungen auf Frieden und internationale Sicherheit. Das Treffen erfolgt nur wenige Wochen nach dem Aufruf von Papst Leo XIV. in seiner Enzyklika Magnifica humanitas, die künstliche Intelligenz zu „entwaffnen“.

Gefahr der Verwischung menschlicher Verantwortung

In der Erklärung wird betont, dass alle Unternehmen – auch jene mit Verträgen mit staatlichen Militärbehörden – sicherstellen müssen, dass ihre Produkte und Dienstleistungen weder Menschenrechtsverletzungen noch internationale Verbrechen verursachen oder dazu beitragen. Können solche Risiken nicht wirksam verhindert oder begrenzt werden, sollten entsprechende Verträge weder abgeschlossen noch erfüllt werden.

Unter Verweis auf Medienberichte und offizielle Stellungnahmen des Pentagons heißt es, KI-gestützte Zielerfassung habe die Geschwindigkeit, Reichweite und Zerstörungskraft amerikanischer Angriffe gegen den Iran erhöht. Ähnliche Bewertungen würden auch für Systeme der israelischen Streitkräfte gelten. Solche Technologien drohten, „die menschliche Verantwortung bei Entscheidungen über Leben und Tod zu verwässern“ und könnten internationale Verbrechen hinter einer scheinbaren algorithmischen Objektivität verbergen.

Eine unmenschliche Entwicklung

Die Unterzeichner warnen, dass die praktische Anwendung zeige, dass KI „gewalttätigere, entmenschlichende und zerstörerischere Formen der Kriegsführung“ begünstige. Besonders besorgniserregend sei der Einsatz großer Sprachmodelle (LLM) zur Identifizierung und Priorisierung militärischer Ziele.

Dadurch gerieten zentrale Grundsätze des humanitären Völkerrechts – insbesondere Unterscheidung, Verhältnismäßigkeit und Vorsorge – zunehmend unter Druck. Aufgrund der Geschwindigkeit solcher Systeme, ihrer Fehleranfälligkeit, möglicher Verzerrungen und oft problematischer Datengrundlagen bestehe die Gefahr, dass Menschenrechtsverletzungen, Verbrechen gegen die Menschlichkeit und Kriegsverbrechen erleichtert würden. Zudem erschwere die Intransparenz dieser Technologien die moralische und rechtliche Verantwortungszuweisung im Fall von Fehlentscheidungen erheblich.

Menschliche Kontrolle muss erhalten bleiben

Nach Auffassung der Unterzeichner können selbst KI-Systeme, die nicht die endgültige Entscheidung über einen tödlichen Angriff treffen, zu automatisierten Genehmigungsmechanismen für massenhafte Tötungen werden. Die Berufung auf eine vermeintliche Objektivität der Algorithmen könne menschliche Sorgfaltspflichten verdrängen und die Durchführung von Tötungen beschleunigen.

Die Erklärung kritisiert zudem, dass solche Systeme Fragen von Leben und Tod auf die Eingabe einer Anfrage in einem Chatfenster reduzierten. Die Entscheidung, einen Menschen zu töten, trage jedoch ein enormes moralisches und rechtliches Gewicht und dürfe niemals auf die bloße Bestätigung oder Ablehnung von KI-Empfehlungen reduziert werden.

Wenn Armeen KI in einem Maße zur Zielidentifizierung einsetzen, dass menschliche Überprüfung nur noch eine Formalität darstellt, drohten Massenopfer und Verstöße gegen das im humanitären Völkerrecht verankerte Vorsorgeprinzip.

Forderung nach Transparenz und Verantwortung

Die in Genf unterzeichnete Erklärung fordert Technologieunternehmen ausdrücklich auf, keine Verträge mit Militärbehörden oder bewaffneten Gruppen abzuschließen oder auszuführen, wenn die Gefahr bestehe, dass diese gegen internationales Recht, Menschenrechte oder grundlegende humanitäre Normen verstoßen.

Von den Staaten wird verlangt, den Einsatz von KI-Systemen – einschließlich großer Sprachmodelle – bei militärischen Zielerfassungs- und Angriffsoperationen einzustellen, die Einhaltung des humanitären Völkerrechts sicherzustellen und offen zu legen, in welchem Umfang künstliche Intelligenz bereits heute bei militärischen Operationen eingesetzt wird.

(vatican news - cs)