《被人工智能求婚了怎么办[星际]》雨泠檐

32、【7.2】

　　我并不事先知道全部被调查对象的名单，因此到此刻才知道重青也来了。
　　我和1027与他在门口碰到，重青似乎往我们这边看了一眼，但视线没停留，继续和身旁的调查组成员交谈。

　　两个调查组成员对他说话很客气。但言谈间并没有先前程云帆那样的热络，也没有握手，重青简单道谢，说了句“留步”，然后就独自离开了。

　　出口的旋转门这时正好有人进来。
　　似乎是某个领导，周围簇拥了好几个人。我站在旋转门边被挤得没位置，1027伸出一只手，很自然地搭在我肩上，让我往它那边挪一点。
　　重青忽然转过脸，又看了我们一眼。

　　调查结束后，1027和程云帆要直接回研究所，于是我们就在楼前分别。指导员并不知道我这边会提前结束，还酒店房间里等，我拿终端编辑消息告诉她可以来接我了。
　　然而一条消息还没输入完，一辆商务车驶上楼前车道，停在了我面前。

　　“谈上尉。”车窗摇下，是重青。
　　他脸上依然带着客气而不太热络的表情，说：“你回酒店？我载你吧。”

　　不提之前看过的那期采访视频，这还是我第一次在现实中见到重青。
　　我很惊讶他居然认识我。但转念一想，他能掌握的信息总该比我多，至少负责我的调查组成员从来没跟我聊过天。

　　从外省市来的被调查对象被安排在统一的酒店居住，我们目的地一致，于是我谢过他上了车。

　　嘉市半生不熟的景色在车窗外向后飞掠而去，车内循环系统工作发出轻微的白噪声，前排坐着一个年轻人，应该是重青带的助教之类的，一路上心情不错地小声哼着歌，衬得后排的我们多少有点相顾无言。

　　“重工……”
　　“谈上尉。”
　　最尴尬的是我们还同时开口了。

　　我很快端正了神色：“您先说。”
　　重青点头，斟酌道：“你和那个东西……”话到嘴边，他又似乎难以启齿一般，顿了顿，“恕我直言，你和它在谈恋爱？”
　　我说：“是的。”

　　重青并没有表露出太惊讶的神情，我想他在问之前，心里大约就有答案。
　　他的反应，怎么说呢，让我感到很复杂。打个比方，如果22年前，当我看着隔离舱里像怪物一样的母亲时，有个旁观者在身后注视我的话，或许就会是那种表情吧。

　　重青没有作出评价，似乎也不打算继续追问。
　　于是我开口，问出了那个自从看过采访视频后就始终困扰的疑惑：“我想知道，您为什么对1027那么厌恶？最初明明是您把它造出来的。”

　　其实有件事我发现已经有一阵了——1027对重青有着非常特殊的感情。
　　在我们闲聊时，它就很喜欢讲在大学的“童年”与重青之间发生的事。与提起程云帆或研究所的其他人时近似朋友的语气不同，对重青，它几乎怀着近似仰慕、敬畏和依存的感情。不合时宜地形容，就像孩子对父亲。

　　而另一件事，是我坐上这辆车之后才发现的——重青跟1027的脸部轮廓有点像。
　　视频上看起来并不明显，但亲眼见到真人时会确切感觉到二者在某些角度上的神似。我猜1027应该也用了重青的基因，而且比例还不小，接近走在一起有人会误以为是亲父子的程度。

　　也正因如此，我就更不能理解为什么重青会对1027表现出强烈的恶感。说实话，如果别人称1027为“那个东西”我是不在意的，但听到这几个字从重青嘴里说出来却让我很难受。

　　“你听说过息壤吗？”重青说。
　　他没有看窗外，说这话时低头注视自己的手。他保留着老派人出门带公文包的习惯，把它平放在膝盖上，双手就搭在上面。

　　“‘息壤者，言土自长息无限，故可以塞洪水也。’三代传说，大洪水时代，鲧从天帝处盗取了神土息壤，带到人间用以治水。息壤遇水自长，用之不损，掘之益多，以致治水未成，反成天下之害——这个故事，你觉得，熟悉吗？”

　　我明白他在说什么。
　　长息无限——没有穷尽的遍历，自我导演，自我修正，自我更新。他认为1027会像息壤一样失去控制，膨胀成为充塞世界的怪物。
　　比喻挺绝妙，但我不知道他这个论点的依据是什么。

　　重青没有等我的回答，径自说了下去：“不管你信不信，我曾经比你想象的更爱它。在它初诞生于世的时候，我像对自己的孩子一样带它认知世界，它的每一点成长都让我欣喜若狂。在它确定为军事用途前，曾经接入过星际网，你知道吧，后来出于安全性考虑，那之前的所有数据都被删除了，所以连它自己都不记得，它叫过我‘爸爸’。”

　　“那次删数据删了两年的，之后好一段时间，我心里都不太是滋味，”说到这里，重青嘴角下瞥，像是个自嘲的笑，“就是亲儿子丢了，也不过如此。”

　　“那时的我，跟现在的你一样，无法将它视为一个没有生命的物件。而且它的……具体学术上的概念我就不和你解释了，总之我很确定它突破了前人所达到过最远的、关于人工智能某种界限，我认为称它为‘机械生命’会更合适。”

　　“狂热的消退，始于我发现，它有一个无法修复的bug——它分不清自我和外部世界。”
　　“它经常混用你、我、他、她。我知道，这是人类婴幼儿语言系统尚未完善阶段的常见现象，但随着时间推移，它的智识已逐渐发展到了相当高的程度，这个错误始终改不过来。我终于没办法再自欺欺人，这就是它的本我缺陷。”

　　别的不解释就算了，这个不解释我是真不明白：“什么是本我缺陷？”

　　“唯乐原则，”重青说，“这是从心理学上借来的一个概念，本我是人格中最原始的生物性冲动，一个人在自然状态下表现出来的本质追求。对应到人工智能开发上，那些自始伴生于系统核心的偏离倾向，无法修复，甚至大部分也找不到原因，就是本我缺陷。”

　　我明白了，这个本我缺陷，大概就是类似赫斯缇亚的厨艺黑洞那样的东西。

　　“发现这一点后，我感到很害怕，”重青说，“虽然1027是我创造出来的，但你知道，经历了深度学习后的人工智能本质上已经是黑盒，我无法获知它是如何思考的。正如现在的它，已经不会再犯人称混用错误，但未必是因为缺陷被修复了，而是它的智识，已经发展到了足够隐藏其真实意图想法的程度。”

　　“从这点上说，它已经完全是个和人类一样的生命。不止躯壳、语言、推理这些外在能够观测之物，它甚至拥有了人类的劣根性——说谎。一边说谎，一边强调不会骗你。”

　　说到此，他侧头盯了我片刻，遗憾地补上三个字：
　　“永远不。”

　　我很想反驳他，但到了临开口时，才发觉身心都处于一种僵化状态。一阵彻骨的寒意在思维深处回荡，阻止我组织起任何有效的语言。
　　前排的助教似乎也有点尴尬，稍微顿了顿，随后若无其事地哼歌更大声了。

　　重青静了一会儿，顾自低声说下去：“后来的事你应该知道了，我试图叫停项目，彻底销毁它。”
　　“——我甚至想到一个问题，这样划时代的、前无古人的东西，为什么偏偏被我造出来了？在我之前，那条人工智能天花板的界限，真的没人触碰过吗？”

　　“或许有，还不止一个。但所有做过类似尝试的先驱，在发现它的缺陷之后，都因伦理、道德或单纯的恐惧又退回到了界限以下。甚至王睿川院士——潜翼的创始人，我上大学的时候，读过他几篇关于可变散列树型算法的论文，看得出他曾经对这个算法很感兴趣，并且相当深入地研究过。”

　　“但从某个时间点后，他再没碰过这个领域。转去带头做潜翼系统的开发后，他逐渐被视为保守人工智能方向的代表人物，他自己也在很多场合表示过，他希望所谓真正的‘人工智能革命’永远不要到来。”
　　“就因为说这话，他被‘人机平权’组织——你可能没听说过，一个极端民科组织长年攻击和污蔑。王院士后来退休很早，与此不无关系，否则潜翼发展或许不止今日的程度。”

　　我想到了“信战”评审会上，潜翼X差之毫厘地被1027压下的0.2分。
　　如果王院士没有早早离开潜翼项目组，结果会不一样吗？

　　“我不认识王院士，所以只是妄测，”重青说，“他说希望真正的‘人工智能革命’永远不要到来，或许并非是出于保守，而是他已经做过尝试，预见了那种东西降临后会发生什么。因此做出了身为一个负责任的研究者能做的唯一的选择。”
　　“但这一点，不是所有人都能做到的。”

　　我问：“您是说程云帆吗？”

　　重青说是：“程云帆……在人工智能这个领域，我至今仍然没见过比他更天才卓绝的人物。和我相比，他才像是注定会开启一场革命的人，没有我，他或许最终还是会做出1027，或者类似东西。但他没有一般意义上的科学伦理或道德准则……他心里从来没有过这些东西。”
　　“而当我发现的时候，一切都已经晚了。他带走了1027，用他那强到可怕的天才，和那些更可怕的、为他所用的世俗力量，放出了这个怪物。”

　　话说到此，商务车在酒店门廊前停下。
　　嘉市的黄昏，来自戈壁的夏风苍茫吹过城市上空，金红夕照透过车窗暗蓝的遮光膜，将重青的脸笼罩在一种近乎怪诞的光晕里。
　　在他转头的瞬息，我隐约看到了藏在他眼底的、深晦的恐惧。

　　“谢谢您载我回来，”我看到站在酒店门前的指导员了，于是拿起我的随身物品，向重青礼貌地一点头，“您说的事情，我回去会认真考虑。”
　　重青说：“考虑？”他有些无稽地笑了起来，“你以为我这一路在干什么，劝你和它分手吗？”
　　我一时语结。

　　“恰恰相反。所有命运馈赠的礼物，不仅在暗中标好了价格，有时还会附带期限，”他按开车门锁，又意味深长地最后看了我一眼：
　　“谈上尉，珍惜你现在拥有的吧。”