在算法盛行的时代保有人性

（梵蒂冈新闻网）在人工智能时代，由于科技力量大规模集中且不受任何监管，以及丧失人性的新形式出现，人的尊严可能会黯然失色。在此情况下，教宗良十四世向我们强调了保有深厚人性的「迫切义务」。在《伟大的人类》通谕问世当天，圣座传播部编辑部门主任托尔涅利发表文章，提出了这个重点。

托尔涅利表示，在极化严重和暴力猖獗的时代，「实力至上的文化」不断扩张，战争再次被当成国际政治的工具，伯多禄继承人要求我们，在促进科技成长的同时，「不可让心灵退化」。教宗邀请我们接受人类的限度和脆弱，不要像技术至上的意识形态那样把人的限度和脆弱当成要改正的错误。他催促我们不要以大人物的目光看待世界，却要用受苦者的视角从基层出发。天主将我们的软弱背负在自己身上，使之变成救恩之所，我们应当怀有天主的目光，因为「即使机器的效率非凡，人的面容始终位于历史的中心，并要求被注视」。

《伟大的人类》是良十四世首道通谕的名称。托尔涅利指出，这不是一份分析人工智能的文件，不谈持续演进的进程细节。这是在人工智能时代落实教会社会训导原则的「集大成者」，将训导的核心要点加以巩固并阐述其现实意义。教宗劝勉人们共同管理人工智能，促进整体生态，并指出经济架构变成「罪过的架构」，他鼓励众人向战争说不。有些人倾向于把教宗的这些训导贬低为见仁见智的说教，而且相信市场和新科技的绝对自由。教宗的这份文件也对这种误解划下句号。

普雷沃斯特教宗以良十四世为名号，向《新事》通谕的作者良十三世致敬。托尔涅利提及这两位教宗一脉相承的思想，强调良十四世在数字化革新的时代要求我们每个人发挥积极作用，因为「爱的文明」的实现得益于「渺小而坚忍的忠信的总和」，这些忠信之举能遏止人性丧失的现象。因此，这是与我们人人密切相关的任务。

良十四世提醒我们，「不公义不仅源自于个人的错误选择，也来自于那些制造不平等的经济与文化架构、机制和体制」。假如一个发展「增加某些人的消费，却把成本和创伤转嫁到他人身上，或者将整个区域降低至从属角色」，那么这样的发展就是「没有人性的」；不幸地，在新科技及其所需的资源方面，这种情况今天正在发生。

通谕阐明，私有财产的社会功能是教会的「训导」之一，以及今天在所有人共同使用的财产方面，「我们也必须列出繁荣的新形式：专利、算法、数字平台、科技基础建设、数据」，以免排斥或剥夺自由的新形式萌生或愈加巩固。技术实际上不只是个工具，而且当它变成准则时，「最终会确立什么重要和什么可以丢弃」，把人贬低为「系统里的齿轮，其表现永远要更上一层楼」。

平台、基础设施、数据和计算能力的监管今天「不是国家专有的，却属于经济和科技巨头」，后者制定进入的条件、曝光的规则、参与的机会。当如此权利集中在少数人手上时，就「容易变得不透明，逃离公共监督」，本身蕴含扭曲发展的危险，「制造出新的成瘾、排斥、操纵和不平等」。

此外，托尔涅利也指出，教宗重申要超越「正义之战」的理论，并要求人工智能在战场的使用必须受到最严格的道德约束，因为「没有任何算法能让战争变成在道德上是可以接受的」。再者，人工智能成了引领公共舆论的关键要素，其方法是操纵影像和内容，使之愈加难辨真伪。

关于劳动市场的未知数也很多。在这方面，通谕表明，不可继续只依赖市场那只「看不见的手」：政策有责任引导经济－科技的动态朝著公共福祉前行，促进有尊严的劳动，社会包容，以及创新益处的公平分配。

保有人性、管理进程，以及在这个领域也要避免垄断，垄断最终会让少数人的权力扩张，对许多人的生活造成不利。教宗所指的道路，既不是筑起障碍，也不是武断地拒绝使用人工智能。他反倒指出人工智能的许多积极面向和许多造福人群的应用，但同时也阐明，光是对使用目的的好坏提出伦理问题，仍有所不足。事实上，及早介入，并且反省系统是如何规划的，以及人与社会的哪些想法写入了数据和模型，这一切是不可或缺的。因此，需要适当的法律框架、独立的监管机制，以及「不放弃其职责的政策」。

若不如此，将来只有技术至上的逻辑能掌握改变，而且改变势必会呈现出「无可避免」的必然趋势，最后由手握数据、基础建设和计算能力的人来制定规则。因此，不可将人工智能用于作恶，换句话说，就是要「打破技术实力与掌控权利之间的等价关系」。这并不是要抵拒科技，而是要阻止它控制人类。托尔涅利总结道，这一切是为了不放弃我们如此脆弱又如此「伟大」的人类。

链接网址： www.vaticannews.cn

订阅电邮新闻：http://www.vaticannews.cn/zh/newsletter-registration.html