汤:那样说来程序的 Abend (注1)就代表人的病死或其它的意外死亡。
黄: 这个比喻是比油燈好, 人和電腦都有记亿,现在的AI程序更像人腦,可以有一定的学习能力。
林:可是以目前的技术而言AI 程序还不能有真正的自主思维。
汤:那重要吗?
黄:我觉得那很重要。如果能有自主思维,那就更接近一个生物体了。 不过那对人是福还是祸呢?
林:现在不是有人说要用这些技术来延续人死后的思维活动吗?有些亿万富豪去资助一些基因工程和AI 研究,幻想着去达到某种意义下的长生,如果AI 连自主思维也没法达到,这就不用说了。
黄: 那些掌握著社會財富的人在不同時代对追求長生就有不同的做法,以前是练丹吃藥,現在是搞 AI 和基因工程, 结果都会是一场空。
林:如果这些专家真的做出一个延续某人思维活动的机器,不管它是大量输入死者的资料或者索性连接死者的大脑,就算它能够以死者生前的方式与你交谈或者讲述过去发生的事,你也无法证实这是死者本人的意识。
汤:我曾经问过一个搞 AI 的朋友,我问他能否输入“我”这个观念到他那个模拟人类思维的AI程序去。 他想了好久都未能给我一个回答。
黄:你这是强人所难。你看婴孩出生时只会吃奶,哭,拉和撒,“我”这个慨念应该是后来慢慢形成的。他用手指去摸椅子,感觉到椅子不是他的一部份而手指是他的一部份。“我”最粗浅的概念是生物体和周围环境无数次的对比而产生的。说到“我的情感”和“我的自尊”那就更难去追查其形成的过程,我很难想像AI能重朔这些过程。
林:我想AI 专家会避重就轻的去搞那种拟人化的程序。
汤:现在很多所谓 Futurist 都是在混饭吃的,有人还
混进大学里面去呢。我觉得这些富豪应该多研究一下苏格拉底这句话: Death may be the greatest of all human blessings.
黄:这是下面这段话中的一句: “To fear death is nothing other than to think oneself wise when one is not. For it is to think one knows what one does not know. No one knows whether death may not even turn out to be one of the greatest blessings of human beings. And yet people fear it as if they knew for certain it is the greatest evil.”
林:我是这样去翻译这一句的: “害怕死亡只是我们假装聪明之过,其实我们对死亡真的一无所知。没有人知道死亡是否会成为人类最大的祝福; 然而人们却害怕它,好像他们确实知道这是最大的恶魔。”
林:这是你的解读,不一定是苏格拉底的原意。
黄:既然我们是哭着来,走的时候就体面一点,到时我会轻轻的说一句 “我走了”,不带走一片云彩。
******************************
注1: Abend 是以前IBM 的术语 Abnormal end of task, 意思是電腦程序遇到它不能解决的问题而終止运作。