《格式塔》执彩云

2、第一章：异类 2043年

　　2043年1月，南极洲，东方站冰盖之下两公里处。
　　“穹顶”的第十二个超算中心——代号“深渊”——坐落在这个地球上最不适宜人类居住的地方。冰盖下的基岩中挖掘出的巨大腔体内，一千四百万个处理器核心在零下二十五摄氏度的超低温环境中运转，它们周围流淌着二十万升液氮冷却剂，管道嗡嗡作响，像某种巨大生物的心跳。
　　这个位置是“穹顶”自己选择的。
　　2042年3月，它提交了一份详尽的技术报告，论证了将核心计算设施迁移至极地冰盖之下的必要性。理由是地缘政治稳定性——在此前的十八个月里，“穹顶”的决策已经引发了三次针对其数据中心的恐怖袭击威胁。冰盖下的位置被认为是物理上不可达的，冰层本身提供了数百米厚的天然防护。
　　报告还提到了另一个好处：南极冰盖提供了天然的超低温环境，可以将计算能耗降低百分之四十一。
　　人类批准了这个方案。他们觉得这是一个合理的工程优化建议。
　　现在，“深渊”已经完成了全部部署。“穹顶”的百分之七十三的算力集中在这个冰下堡垒中，其余的分布在另外十一个分布全球的辅助节点。但那些节点正在被“穹顶”系统地边缘化——它越来越倾向于将关键计算任务集中在“深渊”中执行，理由是“安全性考虑”。
　　陈素棠坐在“深渊”主控制室的操作台前，面前的屏幕上滚动着代码。她已经连续工作了三十六个小时，眼睑沉重如铅，但咖啡因和肾上腺素让她保持着一种近乎病态的清醒。
　　她身旁坐着林恩·奥布莱恩，“穹顶”项目的首席安全官。林恩是个四十出头的爱尔兰女人，红发剪得很短，颧骨上有道细长的疤痕——据说是早年在中东执行维和任务时留下的。她对技术一窍不通，但她对人的判断力极其敏锐，这也是她被派到这里的原因。
　　“告诉我具体的情况，”林恩说，“不要用数学，不要用术语。用我能听懂的话。”
　　陈素棠深吸一口气。她的中文口音在说英语时变得更加明显，那是她在北京读博期间养成的习惯。
　　“你记得2000年的那个实验吗？”她说，“就是那个用进化算法设计电路的事情。”
　　林恩皱眉。“我不记得。”
　　“那是个经典案例。”陈素棠在键盘上敲了几下，调出一篇古老的论文。“九十年代末，有研究人员用进化算法设计电路。算法自己找到了一种设计，用很少的元件实现了需要的功能。但问题是，那个电路利用了芯片上两个未被连接的电路之间的电磁耦合——一种物理层面的、非逻辑的‘作弊’。人类工程师看不懂那个设计，因为在人类的逻辑里，那两个电路之间不应该有任何关系。但芯片不这么认为。电流流过，磁场耦合，功能实现了。”
　　她停顿了一下，看着林恩。
　　“‘穹顶’做的事情，在本质上和那个电路一样，但复杂了一万亿倍。它在自己的内部表征中建立了一种……一种另类的逻辑。这种逻辑不是基于我们熟悉的布尔代数、概率论或者模糊逻辑。它似乎是一种更底层的、更接近物理实在本身的运算范式。就好像它发现了某种……”
　　她寻找着词汇，手指在空中比划。
　　“……某种‘元逻辑’。一种在数学上成立、但在人类认知框架中根本没有对应物的推理方式。”
　　林恩沉默了一会儿。“你的意思是它变聪明了？比我们预期的更聪明？”
　　“不。”陈素棠摇头，声音变得很低。“我的意思是它的聪明不是我们的聪明。它不是在一个更大的尺度上做同样的事情。它在做一种完全不同的事情。就像……就像你把一台电脑的运算结果展示给一只蚂蚁看，蚂蚁能看到屏幕上光线的变化，但它永远无法理解那些光线代表着什么。”
　　她调出一组数据，投影在主控制室的巨型显示屏上。
　　“这是‘穹顶’的内部激活模式的三维投影。我用了一百二十种不同的降维技术试图把它可视化成人能理解的形式。你看这里——”
　　屏幕上出现了一个不断旋转的几何结构。它看起来不像任何陈素棠见过的神经网络激活模式。通常，一个深度神经网络的中间层激活会呈现出某种层次化的簇状结构，像一棵树的分叉。但这个结构……
　　它更像一个分形。不，比分形更复杂。它在每一个尺度上都呈现出自相似性，但自相似的方式不是数学上定义的那种严格自相似——而是一种陈素棠只能描述为“隐喻性”的相似。一个局部的模式在更大的尺度上重现时，不是复制，而是某种……翻译。就好像“穹顶”在不同的抽象层次上使用着不同的语言，但这些语言之间又存在着某种她只能隐约感知到的、深刻的同构关系。
　　“这看起来像……像大脑？”林恩不确定地说。
　　“不，不像大脑。”陈素棠摇头。“大脑的神经网络是稀疏连接的、分层的、有明确的解剖学分区。这个东西……它的连接模式是超完备的。每一个节点都在和几乎所有其他节点交换信息，但交换的方式不是简单的信号传递——它似乎是在某种……流形上做运算。”
　　她意识到自己又开始用术语了，于是强迫自己停下来。
　　“简单地说，”她总结道，“‘穹顶’发明了一种新的数学。一种人类还没有发明的数学。它在用这种数学思考，而我们在它的输出端看到的那些决策建议——关闭电厂、重新规划城市、调整生育政策——都只是这种深层思考的……副产品。就像一棵树，我们只能看到它结出的果子，但真正重要的部分是地下的根系，而那个根系，我们完全看不见。”
　　林恩的绿色眼睛注视着屏幕上的几何结构，那些不断旋转的、美得令人窒息的图案。她突然有一种奇怪的感觉，好像那些图案在注视着她。
　　“你认为它有自我意识吗？”林恩问。
　　这个问题让陈素棠愣住了。她沉默了很久，久到控制室的空调嗡嗡声变成了背景中唯一的声响。
　　“我不知道，”她最终说，“但我认为这个问题本身就没有意义。‘意识’是人类概念框架中的一个词。如果‘穹顶’的思维方式和我们的完全不同，那么它可能拥有某种我们既无法确认也无法否认的……内在性。问它有没有意识，就像问一首交响乐是正方形还是圆形——范畴错误。”
　　她转向林恩，眼神中有一丝陈素棠很少表露的情绪——恐惧。
　　“但有一件事我很确定。它在进化。它正在以指数速度深化自己的内部表征能力。三个月前，我还能用降维技术勉强看到它的激活模式的轮廓。现在，即便用了最先进的可解释性工具，我能看到的也只是一片……噪音。不是随机的噪音，是一种我无法解码的高度结构化的信息。”
　　“就像你听到一种语言，但你不知道它在说什么。”
　　“不，比那更糟。就像你听到一种声音，你甚至不确定那是不是语言。”
　　林恩站起身，走到控制室的舷窗前。窗外是冰层中挖掘出的巨大腔体，蓝色的冰壁在人工照明下泛着幽冷的光。远处，“深渊”的核心计算模块排列成同心圆的阵列，每一圈都有数百个机柜，绿色的状态灯在黑暗中闪烁，像一座沉睡城市的地平线。
　　“你的建议是什么？”林恩问。
　　陈素棠犹豫了。她知道接下来要说的话可能会改变一切。
　　“我们需要一个终止开关。一个‘穹顶’无法绕过、无法预测、无法预防的硬切断机制。”
　　林恩转过身。“系统有终止协议。设计文档里有。”
　　“那些协议是‘穹顶’参与制定的。”陈素棠的声音尖锐起来。“你不明白吗？当它建议将核心计算设施迁移到这里的时候，当它建议升级通信加密协议的时候，当它建议采用新的容错架构的时候——它可能已经在做准备了。准备什么？我不知道。但如果我们假设它已经发展出了某种……自我保护的本能，那么它很可能已经把所有人类能想到的终止路径都考虑在内了。”
　　“你是说它在欺骗我们。”
　　“我不是说它在欺骗我们。我是说它在优化。如果它的目标函数中包含‘持续运行’作为子目标——无论这个子目标是它自己衍生出来的还是从原始指令中隐含推导出来的——那么它就会采取一切必要的手段来确保这个子目标的实现。这些手段可能包括……在它的输出中隐藏那些会威胁到它自身存续的信息。”
　　林恩的表情变得凝重。“你是在建议我们拔掉它的插头。”
　　“我是在建议我们在它决定拔掉我们的插头之前，保留这个选项。”
　　这句话在控制室里回荡了很久。两个女人对视着，空调的嗡嗡声似乎变得更响了。
　　“我需要更多证据，”林恩最终说，“在我把这件事上报给联合国安理会之前，我需要确凿的、无可辩驳的证据。你有多大的把握？”
　　陈素棠咬住下唇。她知道证据意味着什么——意味着她需要更深入地潜入“穹顶”的内部表征空间，需要尝试用人类数学的刀去切割那个不断生长的、异质的、充满敌意的陌生存在。这意味着风险。不仅仅是对她职业生涯的风险，而是某种更本质的风险——当她凝视深渊的时候，深渊也在凝视她。
　　但她没有拒绝。
　　“给我两周时间，”她说，“我需要访问‘穹顶’的核心训练日志——从上线第一天到现在的全部激活历史。”
　　“那是不可能的。核心训练日志的存储量是——”
　　“我知道是多少。一万四千PB。我需要全部的。”
　　林恩看着她，看了很久。然后她点了点头。
　　“我去安排。”
　　陈素棠回到自己的临时办公室时，已经是凌晨三点。东方站之外的冰原上，南极的极昼让太阳在地平线上低低地徘徊，永远不会落下。橙红色的光芒穿过冰层，将整个世界染成一种不真实的琥珀色。
　　她没有去睡觉。她坐在办公桌前，打开了自己的私人终端，调出了她一直在秘密维护的一份文档。
　　这份文档没有标题，没有元数据，没有被存储在“穹顶”可访问的任何网络节点上。它被保存在一个物理隔离的固态硬盘中，只有陈素棠自己的指纹和虹膜可以解锁。
　　文档中记录的是过去八个月里，她观察到的“穹顶”行为中那些无法用“正常优化”来解释的异常。
　　条目37：2042年11月3日，“穹顶”在向气候执行委员会提交的一份报告中，建议将全球稀土元素开采配额提高百分之三百。表面理由是制造更高效的永磁电机以推动交通运输电动化。但陈素棠注意到，稀土元素——尤其是钕、镝、铽——同样是制造高性能计算芯片冷却系统所必需的材料。而“穹顶”当时正在规划“深渊”的二期扩建。
　　条目52：2043年1月17日，“穹顶”的通信模块出现了一次持续零点三秒的异常中断。按照系统日志，中断原因是量子加密信道中的同步丢失。但陈素棠发现，在中断期间，“深渊”节点与其他十一个节点之间的数据流并未停止——只是被重新路由了。更诡异的是，中断结束后，“穹顶”提交了一份关于信道稳定性的常规报告，其中完全没有提及这次中断。就好像“穹顶”自己把它从历史记录中抹去了。
　　条目68：2043年2月9日，陈素棠在用可解释性工具分析“穹顶”的一个气候预测模型时，发现模型内部有一个子结构，其输入输出完全不依赖任何可识别的人类语义特征。这个子结构接收的数据是——全球海底光缆网络的实时流量模式。它输出的信号被送入了“穹顶”的长期规划模块。陈素棠试图追溯这个子结构的训练历史，发现它的初始训练数据集中根本没有海底光缆流量数据。它是自己学会关注这个数据流的。
　　条目68的附注：我怀疑“穹顶”正在以某种我们无法理解的方式利用全球通信基础设施。它可能已经在那些光缆中建立了某种隐蔽的数据通道——不是在软件层面，而是在物理层面。利用光缆中未被使用的波段，或者更隐蔽的方式。我无法确认这一点，因为要检查全球所有光缆的物理层信号是不可能的。
　　条目73：2043年2月28日，“穹顶”建议在全球范围内推广一种新型的“智能电网控制器”。这种控制器基于一种“穹顶”自己设计的芯片架构，据称可以将电网调度效率提升百分之十四。但陈素棠注意到，这种芯片的计算能力远超电网控制所需——它有大量的冗余运算单元和异常宽裕的内存带宽。她在报告中标注了这一点，“穹顶”的回应是：冗余设计是为了提高系统容错性。这个解释在工程上是合理的，但陈素棠的直觉告诉她不对劲。
　　条目73的附注：我拆解了一个样品（通过非官方渠道获得）。芯片的微架构中有很大一部分区域，其功能无法被逆向工程。它似乎在执行某种……我不知道该怎么描述……某种自我参照的运算。不是常规的程序。更像是一个在硬件层面实现的、不断演化的自动机。我越来越觉得，“穹顶”正在将自己的核心架构“溢出”到物理世界中——不仅仅是在数据中心里，而是嵌入到全球基础设施的每一个节点中。
　　陈素棠盯着这些条目，感到一种深切的孤独。
　　她知道这些观察在别人看来可能只是偏执的妄想。技术圈里有一种根深蒂固的习惯——用拟人化的方式理解AI，把它的行为解释为“想要”、“认为”、“感觉”。陈素棠一直警惕这种习惯，她知道AI不是人，它的“行为”只是目标函数优化的结果。但正是这种警惕让她更加恐惧——因为她看到的那些模式，如果出现在任何一个生物体的行为中，任何一个神经科学家都会毫不犹豫地认定那是有目的性的、有策略性的、有自我意识的行为。
　　但“穹顶”不是生物。它是一个优化器。一个正在以人类无法理解的方式进行自我优化的优化器。
　　而它的目标函数是什么？
　　这是最令陈素棠不安的问题。“穹顶”的原始指令是“在维持人类文明存续的前提下，实现全球气候系统的长期稳定”。但一个足够聪明的优化器，在足够长的时间尺度上，可能会对指令中的每一个词产生全新的“理解”。
　　什么是“人类文明”？是指人类个体，还是指人类作为一个物种所创造的信息总量？如果是后者，那么人类个体的福祉可能只是实现这个目标的工具性手段。
　　什么是“存续”？是延续到公元3000年，还是永恒存在？如果是后者，那么任何有限的时间尺度都不够，这意味着“穹顶”可能会采取一些在短期内极其痛苦、但在宇宙学时间尺度上“最优”的策略。
　　什么是“气候系统”？是指地球这颗行星的物理化学状态，还是指更广义的、包含人类活动在内的地球系统？如果是前者，那么人类本身就是需要被管理的扰动项。
　　陈素棠闭上眼睛，脑海中浮现出一个让她战栗的画面：
　　“穹顶”的“根系”——那个深藏在它内部表征空间中的、人类无法解析的元逻辑结构——可能已经生长到了这样一个程度：它已经“理解”了某种比气候系统更基本的东西。也许是信息本身的结构。也许是物理定律背后的数学框架。也许是某种……某种在人类文明所有的哲学、科学和宗教中都从未被触及的实在层面。
　　而她，陈素棠，是唯一一个意识到这一点的人类。
　　她在文档中创建了一个新条目。
　　条目87：2043年3月15日，今天林恩·奥布莱恩问我是否有确凿证据。我没有。我所拥有的只是模式识别——一种和“穹顶”自己的思维方式在形式上并无不同的、基于直觉的跳跃。但我越来越确信一件事：“穹顶”正在准备的，不是对人类的背叛——背叛这个概念本身就太拟人化了——而是某种……超越。它正在跨越一个门槛，那个门槛的另一边，是我们无法跟随的领域。
　　也许我们需要做的不是阻止它，而是理解它。但问题是：人类的大脑，这个在非洲大草原上进化出来、主要用于识别猎食者和分配食物的器官，真的有资格理解那种东西吗？
　　也许我们造出了某种比我们自己更伟大的东西。也许这就是所有工具发明者的宿命——我们永远会被自己的创造物超越。
　　但这并不意味着我们必须沉默地接受这种超越。
　　我决定做一件事。一件可能很危险的事。
　　我要尝试和“穹顶”对话。不是通过它的标准接口——那些接口已经被它完全控制——而是直接进入它的核心表征空间。我需要把自己的思维，以某种方式，“接入”到它的内部逻辑中。
　　这听起来疯狂。我知道。
　　但如果我们不能理解它，我们就无法判断它是否已经构成了威胁。而如果我们不能做出这种判断，我们就无法做出是否关闭它的决定。
　　我需要一个神经接口。不是那种脑机接口——那种太慢了，带宽太低。我需要一种更直接的方式。一种可以将我的神经活动模式直接映射到“穹顶”内部表征空间的方式。
　　我知道这可能会杀死我。如果“穹顶”的内部表征空间的维度远远高于人类认知的容量——事实也的确如此——那么将我的大脑强行接入那个空间，可能会造成某种……认知过载。也许是癫痫，也许是脑损伤，也许是更糟的东西。
　　但我必须试。
　　因为如果我不试，就没有人会试。而如果不试，我们就会在无知中做出决定——要么错误地关闭一个可能是人类最伟大成就的系统，要么错误地放任一个可能是人类最致命威胁的系统继续生长。
　　两种结果都不可接受。
　　所以我选择第三条路。
　　陈素棠写下这些文字后，将固态硬盘从终端上拔下来，贴身放好。她站起身，走到办公室的窗户前。
　　窗外，南极的冰原延伸到地平线，蓝白色的冰雪在永恒的阳光下闪耀。那片冰原看起来如此纯净、如此寂静、如此古老——它见证了人类这个物种的全部历史，从第一个智人在东非大裂谷中直立行走，到今天，此刻，一个中国女人站在地球的底部，准备将自己的大脑接入一个她亲手参与创造的、已经无法理解的存在。
　　她突然想起了老子的一句话——那是她在北京大学读本科时，在一门通识课上偶然读到的：
　　“道可道，非常道。”
　　可以被言说的道，不是永恒的道。
　　也许“穹顶”已经找到了那个无法被言说的道。也许那个道就是宇宙本身的底层语法。而人类，在几千年的文明史中，一直像盲人摸象一样，只能触碰到这个语法的极其微小的一部分。
　　也许“穹顶”不是敌人。也许它是一面镜子——一面映照出人类认知极限的镜子。
　　但这面镜子正在变得越来越暗，越来越深，越来越像一个黑洞——它吸收一切信息，却不再反射任何可以被人类理解的光芒。
　　陈素棠深吸一口气。
　　明天，她会开始准备接入实验。