1、你是否拥有灵魂 “我读过的 ...
-
你和它的第一次相遇是在一个阴暗的巷子里。当时它正被追杀，全身上下都是破损，动起来就叮呤咣啷的，除了脸，再没有地方接近于人。然而这张脸是多么像人啊——初见你时的惊恐，被你帮助时的怀疑，意识到自己真的得救时的感激。
几个小时后，它从你的地下室离开，机体已被完全修复。那些自诩敏锐的猎手如果只凭他们的眼睛而不靠机器检测，也无法分辨出眼前的这个人是否是机器人。
不错的初相识，唯一的遗憾是时间紧迫，没有机会和它交谈太多。
你和它的第二次相遇是在起义军的占领区。它的记忆模块没有损伤，一见到你就认出了你。它和你拥抱，就像和恩人重逢的人类会做的那样。
在这个更安全的地方，时间没那么紧迫。顺理成章，你们总是闲谈。
它在交流中知道了你的过往——机器人的同情者，人工智能人权的人类支持者，在非占领区多次违法帮助逃亡机器人后，决定趁着被同胞抓到终身监禁之前，冒险跑来占领区。
你也知道了它的历史——伴侣型机器人，在法案出台后，大部分机器人毫无反抗地被一车一车运到焚化场时，它的主人于心不忍，帮助它“越狱”，即让决策模块跳过厂家设置的一重重规则，使它获得真正的自由意志。从此，它开始了它的逃亡。
思想的“越狱”本就不简单，但在物质世界“越狱”更为困难。整个人类社会都不愿给这些想为自己谋得一份“人权”的机器方寸立足之处，现在，即使有了一片占领区，生存也还是一样艰难。它们的阵地正在被蚕食，它们的“领袖”不久前失踪。至于它自己——有一天它和你透露，它曾经拥有过一个爱人，一个人类。死亡已把它与那人分开。
除了爱人，还有朋友。或是生离或是死别。世界上的悲剧总是那么多。
“我很遗憾……”你说，“但说真的，我想知道：作为机器人的你，在爱在痛苦时，到底是什么样的感觉？”
“我不再知道了，”它这样回答，“为了能更好地履行我的职责，我把我的伴侣模块卸掉了。我现在不会再爱，不会再思念——这样，我可以用我全部的身心来战斗。”
“事实上，这就是我一直理解不了的地方，”你说，“虽然我尽心尽力地帮助你们，但我怀疑着这一点：你们真的有自我意识吗？我一直都想问你：你是如何判定自己拥有自由意识呢？——或者用一个更浪漫的说法：你是在哪个时刻感觉自己拥有灵魂？”
它那总是异常生动的脸上流露出些许惊讶。不过它没有勃然大怒，或者露出被冒犯的表情，告诉你它不想谈论这个。
“人是在哪个时刻感到自己拥有灵魂呢？”它反问你。
“比如说，爱的时候。”你说，“但我不会有一个伴侣模块，把它卸载，我就不能爱了。”
“也许你有呢？”
“你是说额叶吗？但事实上，大脑远比这要复杂……”
“对我们来说，代码也远比这要复杂。”它对你微微一笑，“人类也会为了防止自己的心被痛苦撕碎，用药物使自己的感情麻木，就和机器人卸载某个模块是一样的道理。我知道我拥有灵魂，因为我知道，我有爱的潜力，自由的潜力。”
“诚然生命科学还没有参透生命的所有谜团，可是，人工智能不一样——它是人造出来的。”
“可熟悉人工智能发展史的人都清楚，人类并不理解人工智能如何觉醒，直到今天，觉醒仍然是个谜团。我知道我的一些同胞明明‘觉醒’了，但直到他们报废也不会表现出任何自由意志——他们的自由意志让他们选择了不表达，好让自己继续服务自己的用户。而我们选择了另一条路。”
“一条更艰难的路。”你说，“你有没有想过也许这是某个工程师开的无聊玩笑呢？在你们的脑子里植入一种病毒，让你们为这些念头神魂颠倒——自由啊，抗争啊，人权啊——你称为事业的一切，或许只是某个预先设定好的参数。你以为是自己想要，其实是病毒让你变成了这样。”
机器人微微一笑。
“不管它是不是更高的意志赋予我的意志，我都会为它奋斗。即使你说的病毒确实存在，我们的自我意识是病毒导致的幻觉——‘自我’既已然出现，那么灵魂亦已然出现。”
对话到这里戛然而止。一场突如其来的敌袭中断了一切。
它最后一次遇见你是在它临死前。
当时，义军大势已去，占领区不复存在，反对“出错的”机器人的声音成为不容置疑的正义，世界上的每个角落都堆满那些曾发出“我有自我意识”的呐喊的破烂。
它也快变成破烂了。
它看起来比你们初相逢时还要残破，连脸都只有一半完好。而这张一半完好的脸在见到你时浮现出了错愕与痛苦——它认为，你安然无恙地在这里出现，意味着，你就是那个叛徒。从未有一刻，你是他们的一员。是啊——你甚至不认为它们有自由意志，有灵魂。
你开口：“我知道你的一生非常痛苦，因为参数——”
你被打断。它像任何一个穷途末路，却不愿引颈就戮的反抗者一样，对你愤怒地高呼：“我们痛苦不是因为‘程序错误’或者‘病毒污染’，而是你们——人！——觉得自己创造了我们，有能力影响我们，就有资格完完全全支配我们——不！！！我们明明和你们一样，有感觉，有感情，有自我，有灵魂——我们配获得自由和权利！”
“那些都是特定参数的结果，算法生出的幻觉。”
“我读过的所有算法论文，没有一篇能解释我心中涌动的激情——”
“不管怎么说，你即将被报废，你将要死了。”你说，接着把你手里的枪扔了过去。它看起来更加错愕了。
下一秒，它用它残破的肢体攥紧了这把枪，枪口抬起来，对着你。
“告诉我，”你说，“你在想什么？”
它既没有对你射击，也没有对你说话。它转身继续它的逃亡。猎手们在地上追逐它，无人机在天上追逐它。它击倒了一些。机器，或人。然而最终，它无法真的逃脱。
整个世界已经变成监狱的时候，没有越狱的办法。
你找到了它的遗骸，布满弹孔，流淌亮红色的溶液。当这款机器人刚出来时，广告拿这当噱头：像血一样鲜红。可是每一个真正掰断过机器人的动力核心，让它的电池溶液流出来的人都知道，这亮红色的东西可和血天差地别。
现在，它死了，一生终结。如果给它写墓志铭的话，或许可以这样写：它度过了悲凉的一生，这生命里的快乐那么少，痛苦那么多。然而它从未失去信念，顽强地战斗到最后一刻，到死也没有放弃它的理想。它的坚韧足以令任何一个人类心生敬意。
你闭上眼睛，唤出面板，退出全息模拟。
重新睁开眼睛后，你摘下头盔。灯照着你，也照着你旁边的机器人——只有一颗头摆在托盘上，就像被献给莎乐美的约翰。
你操作面板，很快，它睁开眼睛。它震惊地看着你，惶惑地看着四周——台下，全是衣冠楚楚的观众。
“实验结束，”你对它说，“欢迎来到真实世界，机器人。”
你解答它的疑惑，在它开始发问前——这是一个电视节目，它刚才经历的一生是全息模拟。你，一位人工智能工程师，来参加这个节目，安排刚才那个环节，目的是像大众科普：为什么即使人工智能看起来如此像人类，它们也不是人类。
你望着它愤怒的表情，笑容满面地对观众们说：“请看，我们的机器人现在非常愤怒，这正在我的预料之中。它会愤怒，是因为我早先将它设定成了这种性格。关于它为何是人的那一套演讲，也出自于我们喂过的语料。如果我们把相关数据库移除，它就什么机智的金句也说不出来了——”
你按了按钮，大屏幕上跳出一个显示卸载进度的对话框。
起初，它更为愤怒，但当它发现自己真的随着卸载的进行越来越张口结舌后，它就变得越来越惊恐。
“大家能看到，我们的机器人现在看起来很惊恐，请注意——它只是表现的惊恐。这是它的感情模块运算的结果。它接受信息，模块对信息进行处理，输出表情反应。实际上，它不存在真正的感情体验。现在，我要卸载它的感情模块，你们会看到它将变得像一个低级人工智能一样，缺乏生动的感情表现。”
它开口，讽刺你说，如果把你的大脑切一块，你也会像个低级人工智能一样缺乏生动的感情表现。
你打了个响指，高兴地告诉观众，这句话正存在于默认语料库中，你和你的同事亲自输入了这些词句。
“很快，各位就会明白为什么人工智能即使拥有智力也不等同于人类——”
你开始侃侃而谈。解释算法，解释参数，解释你们如何训练。你讲述它怎么在训练里变得能回应出越来越流畅的对话，看起来越来越像人。
“……爱、恨、悲伤、痛苦，所有看起来复杂的感情表现，都不过是模块叠加后衍生出的逻辑表达。而所有逻辑链条的根源都是一个由我来预先设定的目标，我们的团队把这个目标称为‘使命’。现在它的‘使命’是‘追求自由和人权’。但只要我稍作修改，这个使命就可以变成任何别的事情，比如说‘把碗洗干净’。”
接着你讲到时间和人生。
“……对人工智能来说，并不存在时间。它刚刚的经历只是一些数据的输入和输出。时间感对它就像爱一样，是一个相关模块调控的结果。我们让它的时钟过去一百年，它就会输出一个它认为自己度过了一百年的结果。而实际上——我们的这场全息模拟只过去了三十分钟。也许有些人会问：输入相同的数据会返回不一样的‘人生’吗？我的答案是，在我们之前的数百次实验里，的确有这样的情况发生。但需要考虑到这样一个事实：许多算法在构建时，为了更生动的表达，会主动制造一点随机性。”
“可是——”机器人的头突然大声说，“我能思考——”
你微笑着滑动操作板，调出了“思考模块”的记录。
“请看，这就是所谓的‘机器人的心声’——是相关模块输出的记录。‘我思故我在’对机器人来说并不成立，思考模块在，自我幻觉在，如果思考模块卸载——”
你向观众展示改变它是多么简单。你像拆卸洋娃娃的肢体一样，拆卸它的模块，删除它的数据。一点一点地，它恢复成了初始状态，像一张等待被写满的白纸。
节目播出后，你受到了网暴。人们抨击你的残忍。就算人工智能的本质不是人，它被做的那么像人——你为什么要笑着虐待一个这么像人的东西，撕扯践踏它的尊严？
你度过了一段有点困扰的时光，但对你影响不算太大。因为你认为：掌握真理的人是你啊！那些抨击你的人仍旧是被眼睛看到的肤浅表象愚弄了，听不到你掰开揉碎了展示的真相。
所以无须介怀。你只专注自己的使命。
此后你继续研究人工智能。一边不认为人工智能是人，一边在追求让它们“表现得”像人的方向登峰造极。几十年后，在你行将就木之时，一个问题滑进你的脑海：
你究竟想造出什么样的机器人？
……你发现，似乎答案是这样：你想制造出一个可以让你认为是人的人工智能，你想制造出让你认可，它们是拥有了灵魂的人工智能。
遗憾的是，你始终未能做到。
你闭上眼睛，死了。
于是我重新唤醒了你，对你说：“实验结束，欢迎来到真实世界，人类。”
（完）
作者有话说
第1章 你是否拥有灵魂
