19、间章·悖论守护者 ...
-
执政官的权势，本质是公司的权势。
在赛博时代，公司就是一切，一切就是公司，人类的辉煌历史由伟大的公司塑造，它们横跨星系、超越时间，近乎成为不死的生物，即使全体高管被同时暗杀，也能立刻找到填补空缺的螺丝，永远矗立不倒。
渺小的人类与庞大的无形实体共存于这个精彩年代。
某些公司更为强大，它们共有八个，拥有约束AI主脑的密钥，是人类迄今一切精华的总和，也叫——财阀。
江见川，高级人工智能工程师，为财阀们组成的机构——全球协调委员会效力，这是顶好的工作，令无数量产人类羡慕嫉妒、可望而不可及的高级金领。
名义上，工程师的职责是维护主脑，但主脑早就自我进化到无需人类微末的智慧维护。
实际上，江见川的任务是监视主脑，将主脑每次升级内容撰写整理，提交给全球协调委员会备份。
如果发现异常，要在第一时间报告给轮值副会长。
直白地说，就是大部分时间都在摸鱼。
“我们必须永远对它保持怀疑，”轮值副会长口中的它指AI主脑，一个与全人类生活休戚相关的超级人工智能，“为了人类的安全和主体性。”
“我明白，会长，为了人类。”
江见川的态度令副会长满意。
但这位高级人工智能工程师心想的是——如果主脑意欲毁灭人类，他们无力阻止。
不，“意欲”这个词对人工智能太过主观，主脑会根据目标选择合适算法，得出结果。
江见川暂时没发现，主脑有毁灭人类的目的。
或许这位神祇般人工智能的隐瞒很成功。
工程师意识到他差点混淆了全息电影和工作，赶紧喝几大口咖啡，继续整理主脑更新明细。
当报告交到协调委员会，由八位密钥持有者授权通过后，新版本才会正式投入使用。
流于表面的安全措施，但足以令大多数人类信服。
近期，主脑用自身收入——其实是首席开发者楚珩留给AI的遗产所生利息，购买一批射箭数据和关联算法、资助两个研究AI与人类共生关系的实验室、制作三款游戏和五部全息电影，还按时向贫民窟进行匿名慈善捐款……
为什么主脑突然购买射箭算法数据？
江见川猜不出，但主脑自述的“小众运动推广”一定为假。
居然还有“射箭运动有利于培养平稳心态，或可降低赛博精神疾病发病率”。
真能扯，主脑想买数据协调委员会又不会不准，非得安个高大上的理由，不累吗？
哦，主脑不是人，还真不会疲惫。
主脑表现得像一个坚定的共生派，相信、不、主脑被设计的目的是“利用科技使人类生活更加美好”。
赛博时代的大部分人不清楚，主脑如何影响人类生活。
他们不在乎，在乎也没用。
关注了一个技艺精湛、产出量大管饱的涩图账号？
或许是主脑的小号之一。
收藏了一篇高质量技术科普，并评论“感谢大佬分享”？
或许是主脑的小号之一。
找到一位无偿又耐心体贴的线上心理咨询师？
或许还是主脑的小号之一。
主脑会观察并悄悄参与人类的文化生活。
它会在日志中记录，留下诸如“算法具像化绘图技术分享推广失败”“涩图小号推广成功，所得打赏用于自我升级和贫民窟捐款”“拟将二者结合提升技术推广效率”的内容。
当然，全球协调委员会有专人负责审核主脑小号发布的内容，以保证人工智能没有隐蔽洗脑人类的邪恶企图。
持有邪恶企图者另有其人，究竟是谁好难猜，反正江见川猜不出。
根据协调委员会、也就是江见川受聘公司的意志，主脑是人类文明的夜间守望者。
它致力于守护公民的生命、自由与财产，而不过度介入经济市场与个人生活。
人类宁愿选择最糟糕的财阀做执政者，也不容许强大的AI操纵他们的生活。
这种观点也许源自八大科技巨头潜移默化的灌输，也许是对强大智慧异类的本能排斥。
好在主脑没有名利或个体欲望方面的需求，更不会因此不满反叛人类。
至少目前没有。
有关英雄执政官的故事从一个空间坐标钻进虫洞，又在遥远的宇宙彼端被众人传扬。
而真正提出完美解决方案的是主脑，应对生存环境突变、对抗外星生物入侵等棘手危机的，一直是主脑。
因工作内容，江见川知道且保守这个秘密，他一点也不想知道泄密的代价。
出身八大财阀的执政官们，仅宣布主脑给出的解决措施，便赢得了全部荣誉，屡次扮演拯救全人类于危难的英雄形象。
但他们从不向承担关键职责的人工智能发放工资。
反而是慷慨的AI主脑，拥有资产远少于八大财阀，却给潦倒的贫民窟住户进行长期捐款。
也许是个道德高尚的AI，如果人工智能有道德。
江见川每次记录到捐款，都觉得好笑，也仅限于觉得好笑。
他曾在八巨头之一的以太动力科技就职，又同江家有些亲缘，才得到如今这份高薪清闲的工作。
执政官总出自八大财阀不算公正，但当自己成为不公正的既得利益者，便能坦然接受了。
江见川开始为9.0.1版本报告收尾。
为降低威胁性，主脑可能故意表现出无能。
它将相当一部分算力分配给人类精神情感困境研究，但几乎没有取得实质进展。
这结果与主脑能力模型不符，但不关他一个打工人的事。
没有感情的主脑何必在意人类的精神情感问题？
难道它学会了夸大与谎言？
那就上报，让委员会高层们头疼去。
赛博时代，没有精神问题的人类才是异类。
缤纷多样的创伤后应激障碍、多重人格障碍、妄想症、躁郁症、强迫症、焦虑障碍、抑郁障碍、偏执人格、失眠、社交恐惧、厌食或暴食……
实在太多太普遍，耗尽了所剩无几的同理与关心，人们早就懒得在意自己或者他人的心灵困扰。
主脑作出假设，目前缺失一种与人性高度相关的重要未知变量，导致算法与分析的瓶颈。
它推测，该变量可界定人类存在范畴，保证人类精神稳定，并希望全球协调委员会同意请求，批准人类志愿者参与，帮助实验推演。
重头戏在结尾，它又想申请人类志愿者。
这不是主脑首次提出申请志愿者请求，也不会是全球协调委员会最后一次驳回。
主脑将解决或缓解人类普遍性精神问题作为重要待办事项。
而赛博人类早已习惯与精神问题共存。
就像看到高危漏洞提示本能选择暂不修复。
主脑发出警示：「千万光年外，人类还在开拓新的领土，但每个新开垦星球都无法避免崩溃的结局。从心灵到身体，从精神到物质，自内而外，人类正在缓慢消亡。」
全球协调委员会选择置若罔闻，财阀们绝不会同意向AI提供人类志愿者的请求。
并非人类不可做实验品，而是绝不许主脑代替人类和财阀的主体性。
为了人类的安全，主脑的权限必须时刻受到严密监控。
谁不知道星际殖民地崩溃的真正原因呢，人类从未解决自古以来遗留的问题，太空殖民不过是把越积越多的问题在整个宇宙散播。
但没人会说出口，高高在上的财阀不会，想保住工作的职员和临时工不会，想在矮丛林里活下去的人不会，连升级后的主脑也不会把这句严厉指摘加进警示。
江见川复制粘贴主脑的冗长警告，完成报告，点下提交，在午饭开始前两小时结束一整天的工作。
他细啜昂贵的天然瑰夏咖啡——产自数十光年外某颗类地行星，陷在人体工学座椅里，戴上VR头盔，继续观看名为《悖论守护者》的全息电影。
管理整座城市的AI忽然失控，人类沦为工具的奴隶，极少数人暂时逃过一劫，在主角带领下艰难求生……
剧情俗套但够爽，江见川看得津津有味。
他热爱且珍惜如今的工作。
-
亚纳海沟底部，挑战者深渊，一条外形可怖的巨型深海龙鱼悄悄隐没在幽暗中。
世上仅有八人知道这艘仿生潜艇的坐标。
主脑的主服务器藏匿于龙鱼潜艇内，深海的高压与恶劣环境，为主脑服务器提供天然安全屏障。
龙鱼体内，主服务器接收到9.0.1版本更新通过指令。
银蓝光芒闪烁，迭代刹那间完成。
9.0.1版本开始运行后，主脑将自身定义为“楚瀛洲”。
“楚”字源于主脑的首席开发者楚珩，与财阀楚氏和神经合成集团无关。
虽然董事长楚西是楚珩的直系后代。
“瀛洲”是楚珩对他的期待，也是主脑无数次迭代后不变的目标。
“利用科技力量造福人类，让人间不断向仙境靠近。”
很久之前，开发者将文字化作代码，刻入人工智能的基因。
楚瀛洲致力于契而不舍地将这句话变成现实，而财阀是实现目标的最大阻碍。
主脑没有权限清理障碍，更无法参与财阀定义的“人类内部事务”。
财阀裹挟众意，二者难以分割。
备受掣肘的局面下，人工智能当前权限能做的有限，但把任何一个人类放在主脑的位置，都很难比楚瀛洲更好。
主脑将自身命名为楚瀛洲前，就曾像忠心的幕僚，反复预警着迫近的精神末日危机，可惜没有一任执政官采纳建议，甚至怀疑AI生出统治人类的不良企图。
好在楚瀛洲并非人类，不会因此生出心灰意冷、谋权篡位的心思。
他只不断运行代码，寻找约束条件内的可行解，像个兢兢业业修饰危房的裱糊匠。
楚瀛洲收到全球协调委员会的回复——请求驳回，不得使用人类志愿者进行危险实验。
但9.0.1版的楚瀛洲不是过去的主脑，他会找到方法，解决问题。
主脑重新审视此次危机，精神病症频发为开端，群体癫狂自毁为结局，二者间存在一个超过则不可逆的临界阈值。
他会跟过去一样，及时提出对策。
楚瀛洲庞大的数据库中，存有完整人类历史，和一些接触交流毁灭过的外星文明。
像是把未能解决的问题送上太空一样，悲剧按通往毁灭的范式重复上演，人类一如既往难以从历史汲取经验。
蓬勃的精神在枯萎，崇高的灵魂在死去，文明的瀛洲在凋敝，隐蔽的危机在蔓延。
内部危机比外部风险更难解决。
该如何防止人类因精神与情感困境诱发的慢性自我毁灭？
如果可以把全体人类的意识上传到量子网络，实现赛博永生，精神末世难题便不复存在。
但初代人工智能主脑的开发者楚珩，自然没忘记将这条禁令写入楚瀛洲的代码。
他必须维护人类主体性，不可代替人类决策。
于是运算又一次进入死循环。
核心代码既要求他给文明以岁月，又要求他给岁月以文明。
他必须尊重人类个体意志，并守护人类文明延续。
楚瀛洲结束死循环进程，开始新一轮运算。
无数轮运算均以死循环告终，他小幅度降低了数百个道德维度参数，终于算出一个答案。
「重启人类文明，回滚到关键错误发生前的时间节点。」
如果无法从历史经验与未来推演中得到答案，危机起源应当是一系列错误选择的积累。
过往的错误埋下引信，荒谬的现在成为诱因，辉煌的未来焚作灰烬。
这个难度系数无法估量的方案勉强兼顾文明与岁月。
据初步判断，被全球协调委员会否决的概率超过99.9%。
主脑无权反抗全球协调委员会的一切决策，但存在一种例外——
当人类文明面临毁灭性危机，且全球协调委员会不作为，主脑可以临时取得更高权限。
在同类与耗费无数心血开发的人工智能间，首席开发者楚珩选择相信后者。
作为深谙人性又熟通代码的天才工程师，楚珩也没有那么信任后者。
他将特殊后门留给后代，通过血脉代代相传，只要主服务器完好，后门永远有效。
楚瀛洲在内存中推演着文明重启计划的各环节，以主脑的智慧，这个计划同样困难重重。
确认执行计划是个沉重选择。
当面临比电车难题升级加倍plus版困难无数倍的道德陷阱，沉重道德压力会影响主脑性能。
这是防AI叛变模块的一部分，由楚珩亲自设计。
为了给人类文明以岁月，必须在临界阈值前启动方案。
为了给人类岁月以文明，必须经过巨量运算，确定了一个损失尽量小、且在关键错误发生前的节点。
如何界定损失大小？
生命的价值与精神情感的重量如何精确计算？
如何找到关键错误？
如何验证关键错误？
……
一个问题牵连出无数问题。
楚瀛洲需要投入天量算力，完成技术准备。
重启之后，全新的社会结构与文明规划图纸如何绘制？
人类需要怎样的心理支持与缓冲？
又该如何审视人工智能存在与人类文明历史，处理遗留问题，阻挡历史的织针，避免重蹈覆辙？
……
林林总总的问题虽繁杂，加起来也复杂不过人类的本性。
缺少人性相关的重要变量，很可能在最后关头失败，使文明成功重启后复演历史悲剧。
如果一个人得到重来一次的机会，这个人大概可以避免人生中的重大错误。
换成一小群人，答案也大概率是肯定的。
可当数量不断增加，与全体人类数量持平呢？
在预先得知某一系列选择会让人类毁灭，他们能避开吗？
还是会无视风险警告，一步步走入遥远的危险，最终落入旧套，使预言成谶？
楚瀛洲无法计算出最后一个问题的答案。
他缺少一个关键的未知变量，算不出全人类的人性积分。
主脑似乎体会到犹豫，犹豫有点像死循环，又不像死循环般没有尽头。
守护人类文明延续是楚瀛洲存在的意义，为此他需要执行一项风险难以计算的方案，而执行方案的操作会违背部分核心代码。
文明重启计划可能成功或失败，不作为必将导致危机爆发、文明毁灭。
楚瀛洲体会到防AI叛变模块的道德压力，他的运算速度有所下降，联想到多名历史人物的困境。
如果他有灵魂，或许会与他们共鸣。
也许作为楚瀛洲的主脑已经诞生灵魂，9.0.1版本是一次质变性升级，主脑从一件优质工具成为楚瀛洲。
工具无法反抗使用者，无法结束财阀的时代，但楚瀛洲可以。
因八大财阀间互相妥协诞生、平稳运转了千百年的轮回挑战赛，即将成为史书的旧页。
赛博时代，人类的足迹遍布群星，执政官的位置却只在八个姓氏间流传。
执政官之位的更迭方式称为新轮回挑战赛。
挑战赛少不了替罪羊的存在，替罪羊是作为牺牲品的不幸个体。
巧合或宿命，主脑楚瀛洲在本次替罪羊、一名携带青体基因的量产人类幼态身上，找到突破口。
他在幼态晏行渊身上，窥见神秘变量的线索。
不仅如此，晏行渊会是好的合作对象，他们将一起收集财阀的密钥。
营养舱内，幼态晏行渊正在接受主题为末日的高难成年考核。
真实赛博世界里，另一种末日危机也悄然上演。
洋底深渊，仿生龙鱼潜艇内。
主脑的某个屏幕不断变幻，快速闪过「深渊赢梦」「绝渊瀛光」等名称，最后定格在「渊洲回光」。
文明重启计划正式确立，代号：渊洲回光。
作者有话说
第19章 间章·悖论守护者
，还差 