[사설] 알고리즘 시대에 소중한 인간
Andrea Tornielli
인공지능의 시대, 통제를 벗어난 거대한 기술 권력의 집중과 새로운 형태의 비인간화로 인해 인간의 존엄성이 위협받고 있는 지금, 레오 14세 교황은 우리에게 인간다움을 지켜야 한다는 “시급한 의무”를 상기시킨다. 양극화와 폭력의 시대, 그리고 국제 정치의 수단으로 전쟁이 다시 정당화되는 ‘권력의 문화’가 확산하는 이때, 베드로의 후계자는 우리에게 “마음을 퇴보시키지 않으면서 기술을 성장시킬 것”을 요청한다. 또한 교황은 기술관료주의적 이데올로기처럼 인류의 한계와 취약함을 수정해야 할 오류로 보지 말고, 이를 받아들이라고 우리를 초대한다. 또한 세상을 권력자의 시선이 아니라, 가장 소외된 이들과 고통받는 이들의 눈으로 아래에서부터 바라보라고 권고한다. 우리의 약함을 스스로 취하시어 이를 구원의 자리로 변화시키신 하느님의 눈으로 바라보라는 것이다. 회칙은 “기계가 효율성에서 뛰어난 능력을 보이더라도 역사의 중심에는 여전히 바라봐 주기를 원하는 인간의 얼굴이 남아 있다”고 말한다.
레오 14세 교황의 첫 회칙인 「위대한 인간성」(Magnifica humanitas)은 무엇보다 인공지능 자체를 분석하는 기술 문서가 아니며, 끊임없이 변화하는 기술 과정을 세세히 설명하기보다, 인공지능 시대라는 오늘의 현실에 가톨릭 사회교리의 원칙들을 적용한 일종의 ‘대전(summa)’에 가깝다. 또한 절대적 시장 자유와 신기술에 대한 신뢰 속에서, 인공지능에 대한 인간 공동의 통제나 통합 생태론, ‘죄의 구조’가 되는 경제 체제, 전쟁 반대에 관한 교황의 가르침을 단지 단순한 의견 수준으로 축소하려는 시각에도 분명히 선을 긋는다.
「새로운 사태」(Rerum novarum)의 저자(교황 레오 13세)의 이름을 선택한 현 교황(레오 14세)은 디지털 혁명의 시대에 모든 사람이 적극적인 역할을 맡아야 한다고 말한다. ‘사랑의 문명’은 인간을 비인간화하는 흐름을 막아내는 “작고도 꾸준한 충실함”이 쌓여 이루어진다는 것이다. 이는 결국 우리 모두와 직접 연결된 과제다. 교황은 “불의는 개인의 잘못된 선택만으로 생기는 것이 아니라 불평등을 만들어내는 구조와 메커니즘, 경제·문화적 질서에서도 발생한다”고 지적한다. 또한 “일부의 소비를 늘리기 위해 다른 이들에게 비용과 상처를 떠넘기거나, 특정 지역 전체를 종속적 위치에 머물게 하는 발전은 인간적인 발전이 아니다”라고 강조한다. 이는 오늘날 신기술과 그에 필요한 자원을 둘러싼 현실 속에서도 벌어지고 있는 일이다. 회칙은 사유재산의 사회적 기능이 교회의 “확고한 교리”라고 다시 밝힌다. 그리고 오늘날 모든 사람에게 보편적으로 향유되어야 할 재화 안에는 특허와 알고리즘, 디지털 플랫폼, 기술 인프라, 데이터 같은 새로운 형태의 소유도 포함되어야 한다고 말한다. 새로운 배제와 자유 박탈의 형태가 생겨나거나 굳어지는 일을 막기 위해서다. 기술은 단순한 도구가 아니다. 기술이 하나의 기준이 될 때, 무엇이 중요하고 무엇이 버려질 수 있는지를 결정하게 된다. 그렇게 되면 인간은 “점점 더 높은 성능만을 요구하는 시스템의 부속품”으로 전락할 위험에 놓인다.
오늘날 플랫폼, 인프라, 데이터 및 연산 능력에 대한 통제는 “국가의 전유물이 아니라, 거대한 경제·기술 주체들의 몫”이 되었으며, 이들이 접근 조건, 가시성의 규칙, 참여 가능성 자체를 규정하고 있다. 이러한 권력이 소수의 손에 집중될 때 “권력은 불투명해지고 공공의 통제를 벗어나는 경향이 있어”, “새로운 의존성, 배제, 조작, 불평등을 낳는” 왜곡된 발전의 위험을 수반한다. 교황은 ‘정당한 전쟁’ 이론을 넘어설 것을 다시 한 번 강조하며, 전쟁에서 인공지능을 사용하는 일은 가장 엄격한 윤리적 기준 아래 놓여야 한다고 말한다. “전쟁을 도덕적으로 정당화할 수 있는 알고리즘은 존재하지 않기” 때문이다.
또한 인공지능은 이미지와 콘텐츠 조작을 통해 여론의 방향을 좌우하는 결정적인 요소가 되었으며, 이로 인해 진실과 거짓을 구별하기가 점점 더 어려워지고 있다. 노동 시장과 관련된 미지수도 많다. 이와 관련하여 회칙은 더 이상 시장의 ‘보이지 않는 손’에만 의존할 수 없음을 상기시킨다. 존엄한 노동, 사회적 포용, 혁신 편익의 공정한 분배를 촉진함으로써 경제적·기술적 역학 관계를 공동선을 향해 이끄는 임무는 바로 정치에 있다.
인간 존재[의 소중한 가치], 과정을 관리하는 것, 그리고 이 분야에서도 많은 이들의 삶을 희생시키면서 소수의 권력을 키우는 독점을 피하는 것 등과 같이 교황이 제시하는 길은 장벽을 치거나 인공지능의 사용을 무조건 거부하는 것이 아니다. 오히려 인공지능의 수많은 긍정적인 측면과 유용한 적용을 짚어내면서도, 동시에 그것을 사용하는 목적이 선한가 악한가에 대한 윤리적 질문을 던지는 것만으로는 충분하지 않다고 설명한다. 실제로 시스템이 어떻게 설계되는지, 그리고 그 시스템을 움직이는 데이터와 모델 안에 어떤 인간관과 사회관이 새겨져 있는지를 물어야 한다. 이를 위해서는 적절한 법적 프레임워크, 독립적인 감시, 사용자 교육, 그리고 무엇보다 다시 한번 “자신의 임무를 포기하지 않는 정치”가 필요하다. 그렇지 않으면 이러한 변화는 기술관료주의적 논리에 의해서만 지배될 것이고, ‘불가피한 흐름’으로 포장되어 결국 데이터와 인프라, 연산 능력을 소유한 자들이 “지시하는” 규칙을 강요하게 될 것 이다. 따라서 기술적 힘과 통치권 사이의 이러한 등식을 깨뜨리는 것, 즉 인공지능을 “무장 해제”하는 것이 필요하다. 이는 기술을 포기하기 위함이 아니라, 기술이 인간을 지배하는 것을 막기 위함이다. 기술은 논박할 수 있고 이의를 제기할 수 있는 것이 되어야 하며, 그리하여 (인간이) 살만 한 곳이 되어야 한다. 이토록 연약하면서도 이토록 ‘위대한’ 우리의 인간성을 포기하지 않기 위해서다.
번역 박수현
무단 전재 및 재배포 금지
(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)
