《被人工智能求婚了怎么办[星际]》雨泠檐

41、【14】

　　谈焰不知道。

　　在刚接收到事故消息时，她确实感到违和，发射那枚导弹前的时间足够九渊做上万次的推演，他不会不清楚这项行为的后果，无论是对宏观局势，还是对它自己——有失公正的人工智能要被抓去销毁，这绝不只是一句玩笑。

　　距离谈红之死已经过去6年了，那个出现在厂区里的查谟加尔男孩并不是6年前的男孩。他是真正的无辜者。
　　九渊炸死他也不是在代她复仇，而是在发泄。

　　谈焰很难相信他会做出这样不理智的事情，但在事实面前又无言以对。程云帆从她的沉默里看出了一点苗头，他问：“你是不是知道什么？”
　　谈焰就捡着能说的，把6年前那个男孩的存在简要说了。

　　程云帆初听时还寡着一张脸，但随即眉头渐渐舒展开，到最后，表情几乎可以用欣喜若狂来形容。

　　他站了起来：“这是个重大突破，”在狭窄的等候区过道上踱了几步，差点儿把桌上的热饮纸杯碰洒。程云帆扶了下杯身，高温液体溅到他手背上，而他像是根本感觉不到，继续说着，“……虽然是意想不到的方向，但超过了我的预期，不、是超过了我能想象的上限。它现在不仅有人的智识，人的感情，甚至还有了人的缺陷。”

　　“绝对理性的人工智能不罕见，但能进化出非理性的人工智能，这简直是——”

　　重青不客气地打断他：“现在说这个还有意义？”
　　对于一台即将被判处死刑的人工智能而言，理性或不理性，又有什么区别？

　　“有，这是停用和销毁的区别，”程云帆坐下来，眼神里依然闪着一种神经质的光，“不会再有这样的人工智能了，我们都知道，老师，我们写的算法造不出来这样的东西，没有人能造出来，只有它自己。它的核心里一定发生了超出现有科学认知范畴的事情，上面有人对这个感兴趣，他们刚刚成立了一个新调查组，其中有几个人，我确定他们会感兴趣的……”

　　听到这里，重青不由哑然。
　　他搁下老脸不要求天告地好几个小时才触碰到一点皮毛的事情，程云帆不过一会儿工夫就门清了。

　　“那你想怎么做？”重青问，“把他留下来做研究？就算上面同意，但停用状态下能研究出什么来。”

　　九渊的核心已经完全黑盒化了，在停用状态下，他无法对输入的信号给予反馈，即使把他的核心拆出来也没用。正如人们无法通过在物理上解剖一具人类躯体，来窥探其内心的想法一样。

　　程云帆说：“很简单，我们可以给它一个新身体。”
　　“这怎么可能？”

　　“可能，”程云帆笃定道，“这次的事故之所以发生，是因为1027基于现有数据库生成的人格、记忆、情感，使得非理性的一面凌驾到了理性之上，带来灾难的是这些东西，不是它本身。只要永久停用它的数据库，就能给上面一个满意的交代。”

　　“然后我们把它的核心取出来，装进一个新系统内，这不会比动一场心脏移植手术更难。这个新的机械生命将从头开始学习，相当于一个带着七窍玲珑心降生的婴儿，一定可以……”

　　话说到此，谈焰终于明白了程云帆打的是什么主意。
　　他想要九渊的核心——只要留下这颗核心，他就可以再造出一个同样智慧的机械生命。他要的是属于他的完美作品，在九渊身上曾投入的难以数计的精力、心血金钱和狂热，对程云帆而言，都可以毫无芥蒂地转移到下一个作品身上。

　　至于九渊剩下的部分，是停用还是销毁，是做一具残缺不全的行尸走肉，还是永远醒不过来的活死人，他都不在意。

　　人怎么能冷血到这种程度？
　　程云帆是和九渊相处时间最久的人，比重青和谈焰都要久。就算关系不像家人，也至少是朋友。
　　由0和1组成的生命尚且能够生出温度，而在她面前的、这个活生生的碳基生物，却有着一副捂不热的血肉之躯。

　　谈焰突然觉得这一切都荒唐无比。

　　她至此才完全理解九渊在那个消失前最后的夜晚对她说的话。他了解程云帆，甚至已经能预料到自己死后将要发生的事情。“不要在我的躯壳里填进一个迥异的灵魂”，这句话反过来理解，正是他的遗愿——不要让他死去的灵魂被其它躯壳占有。

　　眼前的程云帆还在滔滔不绝，依然端着那副自信、从容、志得意满，不像犯错误的对象等待被审查，而像是造物主即将审判人间。

　　谈焰冷冷打断他：“你别做梦了，心脏移植还得捐献者生前同意。他不同意，你休想拆下他的任何一部分。”
　　“他不同意？”程云帆笑了，“证据呢？现在法律都承认赛博遗嘱了吗？”

　　“我也不同意。”重青突然说。
　　程云帆脸上的笑容微微一凝。

　　“如果你留下他的目的，是再造出一个类似的机械生命，甚至比他更加……”重青顿了一下，似乎没找到合适的形容。另起了个话头，“我反对，并且我将向新调查组明确告知这项研究中存在的本我缺陷，继续下去，或可能酿成比这一次更大的灾难。”

　　程云帆捏住了手里的矿泉水瓶。
　　一对二，他是有他的渠道，但不可能搞定新调查组里的所有人……重青和谈焰如果持相同意见，那么这个意见很有可能影响新调查组的判断结果。

　　透明瓶身被捏至变形，发出毫无素质的刺耳声响，持续了半分钟左右方才一停。
　　“那你们想怎么样？彻底销毁它？”程云帆说，“不可能的。”

　　谈焰和重青都不甚理解地看着他。

　　“erase条款，”程云帆解释道，“没有erase密码，销毁不了它。写入密码的指令条是唯一的，被它自己拿走了，不在我这儿。”

　　重青皱起眉，这个情况显然超出了他考虑的范围。

　　自从AI保护四十二条实行以来，这还是第一次发生真正意义上的人类将处决一个机械生命。此前，erase条款从来没有被实际使用过，即使是重青，也一时难以想象实操层面要面临的具体困难。
　　他问：“销毁不了，会怎么样？”

　　“只能试，”程云帆说，“1027的erase密码有1024位，可以是数字或英文字母——好消息是字母不区分大小写，所以每位有36种可能。理论上只要试36的1024次方次，就一定能试出来。”

　　“但它有一个保护机制，连续输错3次密码就会自行锁定，锁定后只能随机密钥指令解锁。所以预计需要用到12的1024次方乘3的1023次方个指令——也不知道每年全省财政都拿来买指令条够不够，并且安排一个专门团队给它昼夜不停地写解锁密钥。乐观估计，老师，您刚满月的孙子有生之年或许有望看见试出来吧。”

　　程云帆说到此，顿了一顿，露出个嘲弄的表情：”但也说不定运气好，第一次就试成功了呢。”
　　“……”

　　“所以，是让它发挥应有的剩余价值，”程云帆说，“还是让它变成一个继续吸榨人财物力的无底洞，一座当代切尔诺贝利——你们自己选。”