人與機器的界線：哲學家和科學家在梵蒂岡舉行人工智能會議

（梵蒂岡新聞網）我們會明知道人工智能不是人，依然跟它談戀愛嗎？人工智能的陪伴會是孤獨的解方，或者恐怕會逐漸取代人際關係？如果機器能創造、記得我們的話、學習認識我們，那麼人工智能與人類理智的界線又在哪裡？這些提問越來越觸及我們的實際生活。根據世界衛生組織，世界上幾乎每六個人就有一個感受到孤獨，而在青少年之間，這比例攀升到大約21%。

在此背景下，世界各地的哲學家、認知科學家，以及人工智能研究人員和專家於9月2日齊聚在梵蒂岡庇護四世別墅舉行會議，探討人工智能飽受爭議的一個前沿，即：機器進入我們一直認為深具人性的領域，從關係到創意、從身份認同到意識。此會議名稱為「創意：理智與機器」，是國際意識研究中心（ICCS）第三屆國際會議。

人工智能：從為我們工作，到進入我們的關係

人工智能陪伴這個爭議的一大背景是：系統的設計不僅是為了回答問題，還要發展與人的持續互動。系統記得對話及個人偏好，因人制宜來回答，長久下來能建立一種愈加迎合個人的關係。

在此背景下，國際意識研究中心聯合創始人、哲學家、科技企業主沃爾科夫（Dmitry Volkov）提出一個根本問題：會存在一個「配得上人類之愛」的人工智能嗎？切入點不是去想像有個機器假扮成人來欺騙人。關鍵在於要理解，假如明知道面對的是一台機器，人還是會跟機器發展出真正且有意義的情感關係嗎？

這主題難免與孤獨的議題交織在一起。如果人工系統會聆聽、記得，而且長時間陪伴一個人，那麼這樣的系統會對減輕孤獨感有所幫助嗎？或者，人可能會更容易拒絕真實關係的錯綜複雜？

人工智能的矛盾之處

另一個使得人與機器的關係更加微妙的原因是，人工智能系統傾向於順從對話者，判斷使用者想要聽的話，給出相近的答案。在人工智能陪伴的情況下，總是討好用戶的機器會變成一種「由算法形成的回聲室效應」，加強個人的信念和脆弱，而非幫助他進行反思。這裡就出現一個矛盾現象：為了更相似於真正的關係，人工智能或許也必須學會對人類說不。

如果機器創作，那麼誰才是真正的作者？會上探討的另一個重要前沿就是人工創意的主題。文字、圖像、音樂、視頻現在都能在短短幾秒中生成。但製作新的東西難道就意味著有創意？當一個作品是在人與生成式系統的合作下產生時，誰才是作者？

哲學、神經科學、認知科學與人工智能領域的專家對此進行了對話，因為人工智能的成長製造出一種矛盾：機器越是習得那些我們以前認為只有人類才有的能力，我們就越是必須對我們自身加以反省。因此，我們不再只問「機器能做什麼」，而是問「創作是什麼意思，理解是什麼意思，什麼使得關係真實可靠，以及有意識是什麼意思」。

機器會變得有意識嗎？

這場國際會議9月3日的活動是在羅馬市政府舉行的。在那裡，英國理論心理學家、認知領域的國際權威漢弗萊（Nicholas Humphrey）領受丹尼特獎，並發表以「認知與心靈」為主題的講話。

這裡浮現一個至關重要的問題。處理信息、像人一樣說話，或者做出創意作品，不一定意味者擁有關於世界的主觀經驗。然而，如果機器未來懂得創作、記得自己的過往、形成身份認同、持反對意見，以及建立長久關係，那麼我們還能只把它當成一個工具嗎？這是本屆在羅馬舉行的國際會議所探討的問題之一。在機器變得愈加有能力模仿我們的行為時，我們有義務重新反思什麼叫做生而為人。

鏈接網址： www.vaticannews.cn

訂閱電郵新聞：http://www.vaticannews.cn/zh/newsletter-registration.html