《[POI]Never Said It Would Be Easy》lemon drop

16、You are not government.

　　16-1
　　“先别管那个，”里瑟说，“你认得她？她是政府的人。”
　　哈罗德微妙地看着他。
　　“我知道他们是谁。”他说，“你也为政府工作，里瑟先生。”
　　“哦。我忘了。”里瑟无辜地说，“而且我现在是你的人了，记得吗？”
　　“好吧。”哈罗德说，“再见，里瑟先生。”
　　“你要干什么？”里瑟问，“我可以帮你？”
　　哈罗德对他摇摇头，步履轻快地拐进了另一条走道里，敏捷地选择着无人问津的岔口，里瑟跟在他的后面，感觉像是跟着兔子先生的爱丽丝，十分新奇。哈罗德打开一扇小门走进一个房间，里瑟抬眼看看门牌，发现正是之前那女主管提到的会议室，只不过是从侧门进去的。
　　“你要监视他们？”他问道，看着哈罗德敏捷地把桌边的一只笔筒转了个面，放进一只似乎有特殊装置的钢笔，“你这么早就不信任他们了？”
　　“我不知道你在说什么。”哈罗德说，没有原路返回，绕进了另一条走道，里瑟紧紧跟着他。
　　“你没有别的事情要做了吗？里瑟先生？”
　　“我要保护你，”里瑟说，想着他们含混的任务计划，“记得晚会的事情吗？”
　　“尤其记得你认识枪手这一部分。”哈罗德冷淡地说，他似乎还想说什么，但是停顿了一下，很生硬地中断了话题，向里瑟示意了一下墙侧的电梯口，“你可以从这里出去。”
　　“听我说，哈罗德。”里瑟说，想要按住哈罗德的肩膀，但他随即意识到这个动作逾越了，马上又退后一步，尴尬地将手放在空气里，“我——我得跟着你。”
　　“否则？”工程师问道。
　　否则就会有一个人工智能乘虚而入对你威逼利诱严刑拷打然后用得到的情报毁灭世界。里瑟想说。
　　“我很担心你。”里瑟说，“我谁也不认识，你是我在这个世界上唯一关心的人。”
　　技术上说，这不算是谎话，里瑟一点也不担心根，而卡拉根本不是人。
　　哈罗德有点发怔，趁他还没有回应，里瑟赶忙继续。
　　“你并不真的怀疑我，对不对？不然刚才你就不会让我跟着了。你知道我是对的，现在情况很复杂，你可能有危险。”他说，脑子转得飞快，想着他曾经给芬奇做的调查册子，想着到底什么能打动他，“你是我唯一的朋友了，哈罗德，如果我现在调头走出去，而你受伤了，我一定会愧疚死的。”
　　哈罗德的眉毛都快扬到天上去了。里瑟用自己最诚恳的表情和他对视着，在脑子里给了根好几枪托——如果他说这些的时候不是穿着清洁工制服，效果一定会好些。
　　“我一定是疯了。”过了好几秒，哈罗德终于说，“为什么我会和你一起工作？”
　　因为我十分英俊，穿西装好看，还比你有幽默感。里瑟想说，但是哈罗德似乎也没有想要回答，他摇摇头，往前走去了。里瑟意识到这是某种无言的妥协，他连忙跟上了。

　　16-2
　　“所以你在这里监视公司的会议。”里瑟感叹说，盯着屏幕上出现的镜头，“英格拉姆知道你这么干吗？”
　　“什么也不要碰。”哈罗德说，“里瑟先生。”
　　里瑟耸耸肩，他站在角落里，盯着头顶上方的监视器。如果他现在对机器说话，会是哪一个在看着他？卡拉？撒玛利亚人？还是哈罗德脑子里的那一个？后者和卡拉是什么关系？这简直是个哲学问题了：你在梦境里见到的自己和真实的你是同一个吗？如果是你的挚友梦见的你呢？如果是你的上帝梦见的你呢？
　　“哈罗德，”他不由问道，“你造了一个人工智能，你能知道它在想什么吗？”
　　他估计自己又要吃闭门羹，但哈罗德回答得很严肃。
　　“人工智能不‘想’。”他说，“它们只是解决遇到的问题。这些问题的计算方式太过庞大或复杂，人类无法完成，所以才交给程序去做。从这个意义上说，我不能知道它在‘想’什么，但是我知道它是怎么去‘想’的。”
　　“那谁给它们问题？人类？”里瑟问，“它们自己会不会给自己问题？就比如，今天我不想干这个了，我要去干点别的？”
　　“‘想要’。这是一个很有争议性的问题。”哈罗德说，“然而，不，它不会。”
　　在我的那个世界，人工智能们可是很确定它们“想要”什么，里瑟想。但是他没有说出来。哈罗德对他的成就很有信心，里瑟并不想打击他。
　　或许里瑟应该打击他？如果哈罗德开始在梦中削减机器的程序，撒玛利亚人还能不能从中获得足够的情报？要是他直接摧毁了机器呢？那接下来的时间他们是不是再也不用担忧类似的问题了？可是，这是不是对卡拉太残酷了？毕竟，她甚至能听懂里瑟说的笑话。
　　“如果你要销毁一个人工智能，”里瑟不由说，“她会心碎吗？”
　　“你选择的代词很有趣。”哈罗德微微笑了一下。里瑟在脑子里艰难地挑拣着措辞，这时哈罗德面前的屏幕闪动起来了。

　　16-3
　　那是艾丽西亚，曾经追踪芬奇又被根杀死的安全局官员，里瑟在走廊里就认出她来了。这时她的脸色显得很难看，正在对刚刚进门的英格拉姆低声发脾气。
　　“你不知道它都干了什么！”她对英格拉姆咆哮道，“他们没有察觉，但是我知道！我看到了！它正在暗示，引导，摆布我们的正常工作——耶稣啊，南森，你给了它什么样的指示？你知道你造出的是什么东西吗？”
　　英格拉姆显然不知道。
　　“你在说什么？”他问，不明显地看了针孔摄像头一眼，“出了什么问题？”
　　她甩给他一沓文件。
　　“我们要的是一个工具，不是一个上帝。”她冷着脸说，“赶快做些什么，修补丁，杀病毒，类似你们会做的事儿。在其他人发现之前！”
　　她转过身子就要走，又转了回来，精心修饰的面孔上写着难以掩饰的恐惧。
　　“当我们谈这个项目的时候，”她说，伸出一只手按住太阳穴，“我想到的都是些，正常的问题。技术支持，政治正确，公民权利，诸如此类。我万万没有想到会有这样的——天哪。南森，解决掉它，不然我们要掉进一个银翼杀手*一样的故事里了。”

　　16-4
　　“这又是什么发展？”里瑟讶然问道。他扭头看看哈罗德，对方瞪大了眼睛，什么也没有说。

　　*80年代关于以假乱真的机器人的科幻片。