人与机器的界线：哲学家和科学家在梵蒂冈举行人工智能会议

（梵蒂冈新闻网）我们会明知道人工智能不是人，依然跟它谈恋爱吗？人工智能的陪伴会是孤独的解方，或者恐怕会逐渐取代人际关系？如果机器能创造、记得我们的话、学习认识我们，那么人工智能与人类理智的界线又在哪里？这些提问越来越触及我们的实际生活。根据世界卫生组织，世界上几乎每六个人就有一个感受到孤独，而在青少年之间，这比例攀升到大约21%。

在此背景下，世界各地的哲学家、认知科学家，以及人工智能研究人员和专家于9月2日齐聚在梵蒂冈庇护四世别墅举行会议，探讨人工智能饱受争议的一个前沿，即：机器进入我们一直认为深具人性的领域，从关系到创意、从身份认同到意识。此会议名称为「创意：理智与机器」，是国际意识研究中心（ICCS）第三届国际会议。

人工智能：从为我们工作，到进入我们的关系

人工智能陪伴这个争议的一大背景是：系统的设计不仅是为了回答问题，还要发展与人的持续互动。系统记得对话及个人偏好，因人制宜来回答，长久下来能建立一种愈加迎合个人的关系。

在此背景下，国际意识研究中心联合创始人、哲学家、科技企业主沃尔科夫（Dmitry Volkov）提出一个根本问题：会存在一个「配得上人类之爱」的人工智能吗？切入点不是去想像有个机器假扮成人来欺骗人。关键在于要理解，假如明知道面对的是一台机器，人还是会跟机器发展出真正且有意义的情感关系吗？

这主题难免与孤独的议题交织在一起。如果人工系统会聆听、记得，而且长时间陪伴一个人，那么这样的系统会对减轻孤独感有所帮助吗？或者，人可能会更容易拒绝真实关系的错综复杂？

人工智能的矛盾之处

另一个使得人与机器的关系更加微妙的原因是，人工智能系统倾向于顺从对话者，判断使用者想要听的话，给出相近的答案。在人工智能陪伴的情况下，总是讨好用户的机器会变成一种「由算法形成的回声室效应」，加强个人的信念和脆弱，而非帮助他进行反思。这里就出现一个矛盾现象：为了更相似于真正的关系，人工智能或许也必须学会对人类说不。

如果机器创作，那么谁才是真正的作者？会上探讨的另一个重要前沿就是人工创意的主题。文字、图像、音乐、视频现在都能在短短几秒中生成。但制作新的东西难道就意味著有创意？当一个作品是在人与生成式系统的合作下产生时，谁才是作者？

哲学、神经科学、认知科学与人工智能领域的专家对此进行了对话，因为人工智能的成长制造出一种矛盾：机器越是习得那些我们以前认为只有人类才有的能力，我们就越是必须对我们自身加以反省。因此，我们不再只问「机器能做什么」，而是问「创作是什么意思，理解是什么意思，什么使得关系真实可靠，以及有意识是什么意思」。

机器会变得有意识吗？

这场国际会议9月3日的活动是在罗马市政府举行的。在那里，英国理论心理学家、认知领域的国际权威汉弗莱（Nicholas Humphrey）领受丹尼特奖，并发表以「认知与心灵」为主题的讲话。

这里浮现一个至关重要的问题。处理信息、像人一样说话，或者做出创意作品，不一定意味者拥有关于世界的主观经验。然而，如果机器未来懂得创作、记得自己的过往、形成身份认同、持反对意见，以及建立长久关系，那么我们还能只把它当成一个工具吗？这是本届在罗马举行的国际会议所探讨的问题之一。在机器变得愈加有能力模仿我们的行为时，我们有义务重新反思什么叫做生而为人。

链接网址： www.vaticannews.cn

订阅电邮新闻：http://www.vaticannews.cn/zh/newsletter-registration.html