Arcibiskup Gallagher: Technologie nesmí nahrazovat lidský úsudek v otázkách života a smrti
Isabella H. de Carvalho – Vatikán
Je třeba uplatňovat „přístup zaměřený na člověka při vývoji a používání nových technologií“, zejména v oblasti vojenství, protože tyto technologie nemohou nahradit „lidský úsudek v otázkách života a smrti“, neboť by překročily hranice, „které nikdy nesmí být překročeny“. Toto je výzva arcibiskupa Paula Richarda Gallaghera, sekretáře pro vztahy se státy a mezinárodními organizacemi, která zazněla v jeho projevu na otevřené debatě, která se konala 24. září v sídle OSN v New Yorku.
Setkání, které zorganizovala Rada bezpečnosti OSN, bylo věnováno tématu umělé inteligence a mezinárodního míru a bezpečnosti. Mons. Gallagher zdůraznil, že „pokud vývoj a používání umělé inteligence nejsou pevně zakotveny v úctě k lidské důstojnosti a hledání společného dobra“, hrozí, že se stanou „nástroji rozdělení a agrese“ a „podnítí další konflikty“. Nejedná se o „abstraktní nebo vzdálenou obavu“, ale o „naléhavou realitu, vzhledem k současné globální nestabilitě a rychlé integraci umělé inteligence do konvenčních a jaderných zbraňových systémů“.
Moratorium na smrtící autonomní zbraně
Jak bylo v posledních letech často zdůrazňováno, sekretář pro vztahy se státy znovu potvrdil, že Svatý stolec „důrazně podporuje přijetí okamžitého moratoria na vývoj“ smrtících autonomních zbraňových systémů (lethal autonomous weapon systems, LAWS). Realizace těchto technologií „vyvolává vážné obavy“ mezinárodního společenství na právní, humanitární, etické a bezpečnostní úrovni, protože se jedná o systémy „bez lidské schopnosti“ morálního úsudku a etického rozlišování. Svatý stolec, pokračoval arcibiskup Gallagher, vyzývá k vytvoření „právně závazného nástroje, který zajistí, že rozhodnutí o životě a smrti zůstanou pod významnou lidskou kontrolou“.
Arcibiskup Gallagher dále označil za „stejně znepokojivou“ hrozbu „nového zbrojního závodu, který se vyznačuje integrací umělé inteligence do vojenských systémů“, včetně kosmických technologií a protiraketové obrany. Podle vatikánského diplomata hrozí, že tento kontext „změní povahu zbraní a války“ a vytvoří „bezprecedentní úroveň nejistoty“. Zejména použití „umělé inteligence v systémech jaderného velení a řízení“, pokračoval, by mohlo vést k „novým neznámým rizikům, která daleko přesahují již tak křehkou a morálně spornou logiku odstrašování“.
Úloha Rady bezpečnosti
Arcibiskup Gallagher nakonec vyzdvihl, že Rada bezpečnosti má „primární odpovědnost za udržování mezinárodního míru a bezpečnosti“ a proto musí „věnovat zvláštní pozornost vědeckému a technologickému pokroku“, který se odehrává v současném světě. Poté poděkoval Jižní Koreji za svolání debaty o tomto aktuálním tématu a objasnil, že umělá inteligence již má „hluboký dopad“ na oblasti jako vzdělávání, svět práce, komunikace, zdravotnictví a další. Tato technologie, jak poznamenal, „má potenciál pomoci realizovat“ aspirace, „které vedly k vytvoření Organizace spojených národů před osmdesáti lety“, jako je mír, bezpečnost a zaručení svobody a lidských práv.
