교황 “세상에는 인간성을 저해하는 인공지능이 필요하지 않습니다”

Benedetta Capelli – Città del Vaticano

“권력과 효율성, 그리고 통제가 인간의 얼굴을 가리는 새로운 바벨탑”을 쌓으려는 유혹. 이는 레오 14세 교황이 클레멘스 홀에서 열린 제17회 국제 가톨릭 국회의원 네트워크 연례 회의 참석자들과의 만남에서 강조한 위험 요소 중 하나다. 이 네트워크는 모든 인간의 존엄성을 수호하기 위해 그리스도인 국회의원들 사이에 네트워크를 구축하는 것을 목적으로 2010년에 설립됐다. 교황은 8월 23일까지 로마에서 열리는 이번 회의의 주제인 “인간의 존엄성과 인공지능: 도전과 기회, 그리고 통제”를 언급하며 기술 혁신에 대한 깊은 성찰을 영어로 전했다. 교황은 기술 혁신이 분명 새로운 지평을 열어주지만, 특히 이것이 인간의 온전한 발전에 얼마만큼 이바지하고 있는지 그 의미에 대한 물음을 제기했다.

레오 14세 교황은 인간의 권리와 자유를 수호하는 입법의 필요성을 상기하며, 가장 부유한 국가들이 행하는 은밀한 지배의 위험을 경계할 것을 당부했다. 이어 교황은 가야 할 길로서 교회의 사회교리를 다시 제시하며, 권력의 문화에 맞서 교회가 제안하는 “사랑의 문명”을 따를 것을 권고했다. 이러한 맥락에서 교황은 “인간성의 첫 번째 학교”인 가정을 수호해야 하며, 그렇기에 “인공지능이 사회의 이러한 기본 단위를 침해하도록 절대 방치해서는 안 된다”고 권고했다.

“세상에는 인간성을 저해하는 인공지능이 아니라, 오히려 지혜로 비추어진 인간의 지성, 양심에 따라 이끄는 정치적 권위, 그리고 사랑으로 추진되는 기술 혁신이 필요합니다. 오직 그럴 때만 인공지능은 인간의 경쟁자가 아니라, 공동선의 봉사자가 될 것입니다.”

올바른 입법
교황은 늦게 도착한 것에 대해 양해를 구하고, 더위에 대해 “바티칸의 사우나에 오신 것을 환영합니다”라고 농담하며 만남을 시작했다. 교황은 “우리 인류 가정이 중대한 선택의 기로에 서 있다”고 말했다. 아울러 회칙 「위대한 인간성」(Magnifica humanitas)을 언급하며, 기술이 모든 사람의 전인적 발전에 이바지하는 문명을 건설해야 한다고 당부했다.

이어 교황은 교회의 사회교리 원칙들, 곧 모든 사람의 침해할 수 없는 존엄성, 공동선, 재화의 보편적 목적, 보조성과 연대의 원칙이 “식별을 위한 확실한 기준을 제공한다”고 강조했다. 이를 바탕으로 레오 14세 교황은 국회의원들에게 혁신을 가로막아서는 안 되며, 이를 “지혜롭게“ 이끌어 나가야 한다고 당부했다.

“올바른 입법은 과학적이고 기술적인 창의성을 장려하는 동시에 인간의 권리와 자유를 보호해야 합니다. 사용자들을 착취로부터 보호하고, 개인의 프라이버시를 지키며, 신기술 활용의 투명성을 보장함은 물론, 나아가 신기술이 민주적 제도를 강화하는 데 이바지하도록 보장해야 합니다.”

새로운 형태의 종속
따라서 이는 “적절한 법적 틀, 독립적인 감시, 사용자 교육, 그리고 본연의 역할을 포기하지 않는 정치”를 구축해 나가는 문제다. 이는 “어떠한 이념이나 특정 이해관계도 인공지능 시스템에 내재된 가치를 좌지우지하지 못하도록” 보장하는 지역과 국가, 그리고 국제 차원의 감시를 의미한다.

“인공지능의 급격한 발전은 가난한 나라가 부유한 나라에 갈수록 의존하게 되면서 새로운 형태의 기술적 종속을 초래할 위험이 있습니다. 우리는 혁신이 또 다른 이념적 또는 경제적 식민주의의 수단으로 전락하지 않도록 이 점에 대해 끊임없이 깨어 있어야 합니다.”

지배의 유혹
알고리즘이 “누가 보이고 누가 보이지 않는 채로 남을지”를 결정하게 해서는 안 되며, 노동자의 존엄성을 시스템 최적화에 종속시켜서도 안 된다.

“이러한 발전은 봉사 없는 권력과 지배라는 오래된 유혹의 새로운 모습을 드러냅니다.”

가정, 인간성의 학교
권력의 문화에 맞서 가야 할 길이 있으니, 그것은 바로 교회가 제안하는 “사랑의 문명”이다. 교황은 이것이 “사랑과 자비, 그리고 책임감을 품을 수 있는 마음을 형성하면서, 인공지능을 지혜롭게 이끌 줄 아는 문명”이라고 설명한다.

“그러한 사회에서 인간성의 첫 번째 학교는 바로 가정일 것입니다. 우리가 셈법을 따지기 전에 신뢰를, 경쟁에 앞서 관대함을, 분열보다 대화를, 그리고 권력보다 사랑을 배우는 곳이 바로 가정이기 때문입니다.”

그러므로 가정을 단순히 데이터나 가정생활을 경제적으로 불안정하게 만드는 경제 모델로 축소하지 않도록 주의해야 한다. 교황은 “이런 까닭에 저는 여러분이 혼인과 가정을 강화하고, 부모의 교육 사명을 지원하며, 젊은이들이 신뢰를 갖고 미래를 바라볼 수 있도록 돕는 정책을 추진할 것을 당부한다”고 강조했다.

번역 이창욱

무단 전재 및 재배포 금지

(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)