「위대한 인간성」(Magnifica humanitas) 요약 (하)편: “인공지능을 무장 해제해야 한다.”

Vatican News

Isabella Piro – Città del Vaticano

인공지능에 관한 공통된 윤리적 법전이 필요하다
제3장 ‘기술과 지배. 인공지능의 약속에 직면한 인간의 위대함’은 인공지능이라는 주제의 본질로 들어간다. 레오 14세 교황은 이미 프란치스코 교황이 비판한 바 있는 “기술 관료적 패러다임”에 대해 경고하는데, 이로 인해 모든 선택이 오직 효율성과 이윤이라는 매개변수에 의해서만 좌우된다(92항). 이와 달리, 가장 강력한 기술이 반드시 가장 좋은 기술인 것은 아니다. 인공지능은 인간을 모방하고 흉내 낼 수는 있지만, 도덕적 양심, 공감, 감정적·관계적·영적 능력은 소유하지 못한다. 그러므로 인공지능에 대해 신중하고 경계하는 방식으로 접근해야 하며, 모든 단계에서의 책임 소재(accountability: 책임성)를 명확히 유지하고, 적절한 정책과 법적 테두리, 독립적인 감독, 사용자 교육에 초점을 맞추어야 한다. 무엇보다도 공통된 사회 정의 기준을 따르는 윤리적 법전이 필요하다. 왜냐하면 “만약 그 도덕이 소수에 의해 결정된다면 더 도덕적인 인공지능은 아무런 소용이 없기”(107항) 때문이다. 아울러 막대한 양의 에너지와 물이 필요하며, 이산화탄소를 배출하고 피조물을 훼손하도록 영향을 끼치는 신기술의 환경적 충격도 간과할 수 없다(101항).

인공지능을 무장 해제하고 경쟁적 논리에서 그것을벗어나게 해야 한다
레오 14세 교황은 군사적·경제적·인지적 경쟁의 논리에서 인공지능을 벗어나게 하기 위해, 기술 만능과 통치권 사이의 등식 관계를 깨뜨리기 위해, 그리고 인공지능이 독점 세력의 손에 떨어져 인간을 지배하는 것을 막기 위해 반드시 “인공지능을 무장 해제해야 한다”고 거듭 강조한다. 이러한 과업은 윤리적이고 기술적이며 생태적인 과업이다. 왜냐하면 인공지능은 “이미 우리가 그 안에 몰입해 있는 환경이자, 우리가 반드시 고려해야 할 권력”(110항)이기 때문이다. 이 장에서는 진보를 인간 한계의 초월로 해석하는 트랜스휴머니즘과 포스트휴머니즘에 대한 비판에 많은 지면을 할애한다. 하지만 인간의 한계는 제거해야 할 결함이 아니라 인간을 구성하는 근본 차원이다. 왜냐하면 “인간은 한계에도 ‘불구하고’ 피어나는 것이 아니라, 오히려 종종 한계를 ‘통해서’ 피어나기”(118항) 때문이다. 인간은 자신의 취약함과 유한함 속에서 관계와 돌봄, 그리고 하느님과 타인을 향한 열림이 성숙해지는 자리를 알아보게 된다.

기술의 진보가 마음을 퇴보시키지 말아야 한다
우리가 걸려 있는 위험부담은 매우 크다. 인간의 한계를 제거함으로써 기술을 성장시키는 것은, 사실상 인간의 마음을 퇴보시키는 것이기 때문이다. 비록 상처 입었을지라도 여전히 위대한 인간성은 “결코 대체되거나 능가되어서는 안 된다.” 기술은 인간의 고통을 덜어주고 새로운 가능성을 열어줄 수는 있지만, 인간 고유의 본질인 “관계와 사랑의 능력”(126항)을 부정해서는 안 된다. 인공지능 앞에서 우리가 마주한 진정한 대안은 맹목적인 열광과 두려움 사이의 선택이 아니라, 진보를 이룩하는 두 가지 방식 사이의 선택이다. 곧, 기술을 인간과 민족들을 위해 봉사하게 할 것인가, 아니면 권력의 논리에 종속시킬 것인가(129항)에 대한 선택지다. 모든 이에게 영향을 미치는 선택, 곧 성 아우구스티노가 제시하기도 했던 인간과 하느님의 두 “도성”인 “바벨탑을 건설할 것인가, 아니면 예루살렘을 건설할 것인가”(130항)라는 선택은 바로 우리 각자에게서 시작된다.

소통의 생태학과 학교의 중심성
‘변화 속에서 인간성을 수호하기. 진리, 노동, 자유’를 다루는 제4장에서 회칙은 진리를 공동선이자 민주주의의 필수 요소서 주목한다. 디지털 환경 속에서 진리는 “소통의 생태학”으로 실현되어야 한다. 이는 웹이 생성해 내는 문화가 “획일화와 지배”의 도구가 되지 않고, 도리어 “내면의 자유와 비판적 사고”가 성숙해지는 공간이 되도록 하기 위해서다(136-137항). 교황은 이를 위한 몇 가지 도구들을 제시한다. 곧 콘텐츠 선정 논리의 투명성, 개인정보 보호, 논증과 검증에 기반한 진정성있는 저널리즘, 인공지능의 “올바르고 비판적인” 사용에 대한 새로운 인식, 그리고 지식의 통합이다. 투명하고 정직한 소통은 특히 불의와 남용의 사례들에 있어서 교회에도 동일하게 요구된다. 이 회칙의 핵심은 인간의 사고를 무용하게 만드는 완벽한 기계들 때문에 젊은이들 안에 “질문을 던지려는 열망”이 꺼지지 않도록, 교육적 동맹을 새롭게 하자는 호소다(140항). 레오 14세 교황은 “우리는 인공지능을 단식하는 법을 배워야 한다”고 강조하며, 교육 기회의 불평등을 없애고 학교를 “진리를 찾고 사랑하는 법”을 배우는 장소로 삼아야 한다고 강조한다. 아울러 학교는 디지털이 결코 줄 수 없는 가치, 곧 “배우기 위해 함께 나누는 시간과 신뢰할 수 있는 관계”(147항)를 가르치는 곳이어야 한다.

노동은 이윤이 아니라 인간에게 초점을 둬야 한다
디지털 전환으로 대표되는 “제4차 산업혁명” 속에서, 교황은 노동의 존엄성과 가치를 수호해야 할 중요성을 다시 한번 강조한다. 교황은 “새로운 노동 방식들이 반드시 더 나은 것은 아니다”라고 설명하는데, 기술이 노동자의 숙련도를 저하하고, 그들을 주변적인 기능으로 밀어내며, 자동화된 감시 체제 아래 종속시킬 수 있기 때문이다(150항). 이와 달리 우리는 단순히 성과나 효율성이 아니라 인간을 중심에 둔 시스템을 설계해야 한다. 기술은 분명 인간을 고되고 반복적인 업무에서 해방해 줄 수 있지만, 비용 절감과 이윤 증대라는 명목으로 결코 실업을 초래해서는 안 된다. 인간을 대체한 자동화 시스템으로 인해 초래된 더 큰 빈곤과 불평등이 예견되는 상황에서, 교황은 노동조합 조직들도 쇄신되기를 기대한다(155항).

발전은 오직 국내총생산량으로 측정되지 않는다
디지털 전환은 안정적인 사회적 기준, 노동자들을 위한 접근 가능하고 지속적인 교육, 그리고 기업의 책임을 통해 선제적으로 다스려 나가야 한다. 더 나아가 교황은 한 국가의 발전 정도를 가늠하는 매개변수로서 국내총생산량을 넘어서야 할 필요성을 제기하며, 그 대신 노동의 존엄성, 공동 번영, 불평등의 감소, 환경 보호에 초점을 맞추어야 한다고 강조한다. 금융 그 자체만을 위한 금융은 발전을 위한 금융과 엄연히 다르기 때문이다(159-160항). 아울러 성 바오로 6세 교황의 발자취를 따라 평화와 발전 사이의 상호 의존성을 다시 한번 강조하며, “무엇보다 가장 취약한 국가들과 소외 계층을 위하여” 공동의 전략을 수립할 수 있는 국제 협력을 희망한다. 번영은 오직 “그것이 널리 확산하고, 포용적이며, 지속 가능할 때만” 평화에 이바지하기 때문이다(163항).

가정, 으뜸가는 사회적 재화
이어서 이 회칙은 한 남성과 한 여성 사이의 고정적 결합에 기초한 가정에 대해 강력히 언급한다. 가정은 “으뜸가는 사회적 재산”이자 “모든 공동체 조직의 근본적이고 대체 불가능한 단위”(165항)로서, 삶의 올바른 균형을 보장하고 사회를 생산 지향적으로 만드는 그 “미래를 건설하는 능력”을 보호할 수 있도록, 안정성과 인간적인 리듬을 도모하는 노동 정책들을 통해 반드시 뒷받침되어야 한다.

“가시성의 건축학”과 자유를 위협하는 위험들
마지막으로 회칙은 중독과 상품화에 맞서 수호해야 할 인간의 자유라는 주제를 다룬다. 디지털 플랫폼들이 이용자들의 시간을 붙잡아 두고 그들의 취약함을 착취하도록 설계된 오늘날, 각자 내면의 자유를 강화하고 대규모 데이터 수집과 알고리즘 시스템의 사용에서 비롯되는 사회적 통제의 위험에 맞서는 일은 매우 시급한 과제다. 실제로 인간의 행동을 프로파일링하고, 예측하며, 특정 방향으로 유도하는 것은 가장 약한 이들을 차별할 위험성을 내포한 “새로운 형태의 권력”(171항)이다. 특히 교황은 오직 눈에 보이는 것만을 우대하고 증폭시킴으로써 대중의 의견을 정형화하고 획일주의를 낳는 “가시성의 건축학”을 강력히 규탄한다.

새로운 형태의 노예제도와 새로운 식민지주의
인공지능은 기술 발전에 필수적인 “희토류” 채굴 현장에서 노동하는 이들의 “상처 입고, 신체가 훼손되며, 소모되어 버린 육신”(173항)과도 같은 새로운 형태의 노예제도를 낳고 있다. 이러한 까닭에 새로운 노예제도에 맞서 싸우는 것은 디지털 전환에 대한 또 다른 “윤리적 식별을 가늠하는 결정적인 시험대”가 된다. 이와 관련하여 레오 14세 교황은 “교회는 인간을 대상으로 하는 모든 형태의 노예제도, 인신매매, 상품화에 대한 단호하게 단죄를 다시금 표명한다”라고 강조하며, 이러한 “인간 존엄성에 대한 중대한 침해”에 맞서 대응하지 않거나 이를 용인하는 것은 사실상 “공범이 되는 것”(174항)임을 재확인한다. 동시에 교황은 과거 교회가 “노예제라는 재앙”을 단죄하는 데 있어 늦장을 부렸던 역사적 잘못에 대해 “진심으로 용서를” 청한다. 아울러 회칙은 경제 전략을 주도하는 데 사용되는 – 예를 들어 보건 및 인구 통계 등과 같은 - 핵심 정보들을 일컬어 “권력의 새로운 희토류”라고 언급한다. 교황은 이러한 행태가 데이터를 독점하고 개인의 삶을 착취 가능한 정보로 전환함으로써 디지털 환경을 하나의 “약탈의 공간”으로 만드는, 전례 없는 새로운 형태의 식민지주의 (178-179항)라고 설명한다.

“정당한 전쟁”이라는 이론을 뛰어넘기
제5장이자 마지막 장인 ‘권력의 문화와 사랑의 문명’에서 레오 14세 교황은 전쟁으로 시선을 돌린다. “디지털 혁명은 분쟁의 법칙을 바꾸어 놓고 있으며”, 윤리적 접근이 결여된다면 인간의 생사에 대한 결정은 점점 더 비인격화될 것이고, 무력 사용은 하나의 “즉각적이고 실행 가능한 선택지”로 여겨질 것이다(182-183항). 이 모든 것의 근저에는 전쟁을 정당화하고 전쟁을 “국제 정치의 도구”로 재정립시켜 재무장을 부추기는 “권력의 문화”가 자리 잡고 있다. 과거에는 전쟁을 오직 최후의 수단(extram ratio)으로만 바라보던 대중의 여론에 대하여 오늘날에는 우려스러운 수준의 역사적 기억 상실이 일어나고 있고 이는 과거를 선택적으로 재구성하거나 왜곡하는 결과를 초래한다.(191항). 그 결과 오늘날 평화는 더 이상 마땅히 짊어져야 할 과업이 아니라, 분쟁 간의 불안정한 휴식기로 이해될 뿐이다. 이에 따라 레오 14세 교황은 가장 엄격한 의미에서의 정당방위에 대한 권리가 여전히 유효하다는 점을 전제하면서도, 이제는 “정당한 전쟁론”을 뛰어넘어 오히려 대화와 외교, 그리고 용서를 증진해야 한다고 거듭 강조한다(192항).

그 어떤 알고리즘도 전쟁을 도덕적으로 용납할 수 있게 만들지 못한다
교황은 군수 산업의 성장, 핵무기 경쟁, 그리고 권력과 수익의 원천으로서 분쟁을 영구화하려는 - 지하디스트를 포함한 - 새로운 무장 세력들의 출현을 규탄하는 일을 빼놓지 않는다. 이어 인공지능과 결합한 무기 사용을 향해 “전쟁을 도덕적으로 용납할 수 있게 하는 알고리즘은 존재하지 않는다”라고 단호하게 경고한다. 오히려 기술은 “분쟁이 지닌 본질적인 비인간성을 제거하지 못하며, 오직 전쟁을 더 신속하고 비인격적으로 만들어 무력 사용의 진입 장벽을 낮추고, 방어라는 개념을 ‘작전적 예측’으로 변질시키며, 희생자들을 단순한 데이터로 전락시킬 뿐이다. 이로 인해 기술은 우리로 하여금 폭력이 불가피하며 단지 최적화되어야 할 대상이라는 생각에 익숙해지게 만든다”(198항). 따라서 개인의 책임성과 민간인 보호에 기반하여 국제적 차원에서 공유되는 엄격한 윤리적 구속력이 필요하다. 왜냐하면 “타인의 얼굴을 보지 않고도 타격을 가할 수 있도록 더 쉽게 만들어 주는 모든 기술은, 분쟁이 지닌 도덕적 한계선을 무너뜨리기 때문”(199항)이다.

다자주의의 위기
권력의 문화는 다자주의의 위기와 타인을 향한 불신이 지배하는 “무질서하고 갈등적인 다극 체제”의 출현에서도 기인한다(201항). 법의 힘이 있던 자리는 가장 강한 자의 법이 대신 차지하게 되었다. 권력의 논리가 평화의 건설을 압도하여 평화를 뒷전으로 밀어냈으며, 민족들의 공동 운명을 수호하기 위해 탄생한 국제기구들은 이제 약화되어 그 도덕적 권위조차 인정받지 못하고 있다. 이와 관련하여 교황은 유엔과 국제 정치 체제가 현재의 가치 위기를 극복하고 진정한 공동선을 따를 수 있도록 “심도 있는 개혁”을 이룰 것을 희망한다(226항).

무책임한 현실 정치
회칙은 오늘날 경제, 금융, 정보 영역을 아우르는 “하이브리드” 전쟁들이 치러지고 있으며, 이 전쟁들은 대중의 여론에 영향을 미치고 군비 증강을 불확실한 미래에 대한 “유일한 해답”으로 제시하기 위해 허위 정보와 두려움을 교묘히 이용한다고 이어간다. 하지만 이 모든 것은 오직 “가짜 현실주의”이자, 인간의 양심과 문화 속에 전쟁은 피할 수 없는 것이라는 체념을 심어주고 평화를 하나의 유토피아로 치부해 버리는 무책임한 현실 정치(Realpolitik: 현실적 실리를 추구하는 정치)일 뿐이다(204-205항). 더구나 어떤 이들에게 무력 충돌은 직면한 난제를 “냉소적으로 관리”하는 도구이자, 국내 문제로부터 시선을 돌리기 위한 수단일 수 있다는 점 또한 배제하지 않는다(208항).

사랑의 문명
그리스도인은 이러한 권력의 문화에 맞서 “사랑의 문명”을 건설함으로써 응답하도록 부름받았다. 실제로 은총은 마술처럼 갈등을 없애버리는 것이 아니라, 오히려 “악에 대한 능동적인 저항과 선 안에 내재된 놀라운 창조성”을 낳는다(211항). 모든 이는 각자의 행동 영역 안에서, 작은 충실함과 끈기 있는 행동으로 비인간화를 막아내며 힘의 논리를 키울 것인지 아니면 평화를 수호할 것인지 선택해야 한다. 교황은 다음과 같이 다섯 가지 “책임의 길”을 제시한다. 곧, 진실을 말함으로써 말(言語)의 무장을 해제할 것, 정의 안에서 평화를 건설할 것, 피해자들의 시선을 받아들여 분명한 입장을 취할 것 등이다. 왜냐하면 “중립을 지키는 것이 결코 올바르지 않은” 갈등이 있기 때문이다. 민간인, 병원, 기반 시설을 겨냥한 공격들은 인류 그 자체에 상처를 입히는 행위이기에 결코 추상적인 분석의 영역에 머무를 수 없다. 반대로, 전쟁과 온갖 폭력 안에 “가려진 악의 심연을 진정으로 깨닫기” 위해서는 피해자들의 목소리에 귀를 기울여야 한다(217항). 나아가 교황은 말로만 그치는 것이 아니라 행동으로 실천 가능한 평화의 길을 모색하는 “건전한 현실주의”를 함양할 것을 간곡히 권고한다.

전쟁을 정당화하기 위해 하느님의 이름을 사용하지 말아야 한다
마지막으로, 권력의 문화에서 협상의 문화로 나아감으로써 대화를 재개해야 한다. 평화의 메시지를 전하는 “종교 간의 대화” 또한 결정적인 역할을 한다. “테러나 폭력, 혹은 전쟁을 정당화하기 위해 하느님의 이름을 사용하는 자는 그분의 얼굴을 배반하는 것이다.” 이는 레오 14세 교황의 엄중한 경고이다. “종교의 이름으로 싸우는 것은 사실 종교 그 자체를 타격하는 것을 의미한다”(223항). 한편, 성좌의 외교는 “자비라는 복음적 원리”를 정치적 행위의 구체적인 기준으로 삼는다. 바로 여기에서 기도를 바치라는 권고가 비롯된다. 평화는 무엇보다 먼저 하느님에게서 오는 것이기 때문이다(227-228항).

위대한 인간성
이 문헌을 마무리하며, 교황은 신자들이 복음의 빛 아래 새로운 기술을 수용하고, “절제되고도 엄격한 그리스도인 삶의 여정”을 살아가도록 권유한다. 그리하여 인공지능의 시대 안에서도 모든 이가 “하느님께서 머무시는 위대한 인간성의 아름다움”을 증거할 수 있도록 해야 한다.

번역 이창욱

무단 전재 및 재배포 금지

(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)