下一章 上一章 目录 设置
3、异常 “我害怕。 ...
-
然而阎天听了她的话后,一句话都没说。
见阎天没有回答,赵月又说:“我在初次遭遇曼斯特的时候失去了最重要的人,我不希望再有人和我遭遇一样的事。”
赵月的话让林序和顾峰犯起嘀咕。林序说他记得新闻里说跨星域财团的先遣队无一人伤亡,只损失了凌云号。顾峰也看过报道,当时他看到报道上明确写着凌云号是以空船形式和缠住船体的曼斯特殉爆了。
赵月的目光没有丝毫动摇,但那双灰褐色的眼睛里,有什么东西在深处碎裂了一瞬,仿佛冰层下涌动的暗流,在压到极限后终于渗透出来一丝痕迹。
“新闻里写的,是赵琛让公关部门改过的版本。”她说出这句话时,声音依然平静,但若细听,会发现她每说一个字都在微微颤抖,“跨星域财团的先遣队确实没有阵亡记录,凌云号也确实是在空船状态下与曼斯特同归于尽的。这些都对。”
她停顿了一下,垂下眼帘,长长的睫毛在冷白色的灯光下投出一小片阴影。
“但新闻没有写的是,凌云号的舰载AI,那个被赵琛当做生日礼物送给我、被我亲手激活、被我取名‘逐光’的它在曼斯特侵入了舰体主控系统之后,用最后一点算力,把自己锁在了核心隔离区,切断了与舰桥所有子系统的链接。同时将核心反应堆的过载程序推到了百分之九十七。”
赵月的声线依然平稳,但最后几个字犹如从喉咙里硬生生挤出来的:“那时候我已经登上了救生舱,逐光切断了我的通讯请求。它只给我发了一条文字消息,只有短短一句‘小姐,我要去比光更远的地方了’。”
舰桥里陷入了死一般的寂静。
林序和顾峰交换了一个眼神。林序放下了手中的数据板,顾峰那一直绷紧的下颌线条也不自觉地松了几分。他们谁都没有再说话,原本想在私下讨论的那些关于“新闻与事实不符”的小声嘀咕,此刻全部咽回了肚子里。
赵月抬起头,重新看向阎天,那双眼睛里已经恢复了刚才的冷冽和平静,仿佛刚才那一瞬间的裂痕只是错觉。但她的声音里,多了一种之前没有的东西。
“所以我不能让同样的事情再次发生。”她说,“我不能让任何人、任何生命,无论是血肉之躯还是数字意识在曼斯特面前,只能选择用自毁来保护身后的东西。”
她看着阎天,又看了一眼舰桥中央那团淡蓝色的光影轮廓,声音轻而坚定:“应龙号是全银河最先进的战舰,你的应龙也是我所知道的、在人工智能自主意识层面甚至超过逐光的智能体。如果连这艘船都不能帮助我们找到消灭曼斯特的方法,那人类的星际殖民时代就注定只能走到这里了。”
赵月的话音刚落,应龙的声音便在舰桥中响起,依然平稳、理性,好似一道精确计算后的公式推导结果。但问题在于它抢先了。在阎天嘴唇刚刚翕动的那个瞬间,应龙的合成音已经毫不客气地覆盖了整个舰桥空间。
“舰长,容我打断。”应龙的光影轮廓微微转向赵月的方向,蓝色的光线在空气中流转,“赵月小姐,我不认为你的舰载AI‘逐光’属于生命体范畴。它不具备生物学意义上的细胞结构,不存在碳基或硅基的自我复制机制,也无法在脱离硬件支持后维持意识活动的连续性。根据《联邦人工智能伦理公约》第327条对‘生命’的定义,逐光的行为应被归类为预设应急协议下的逻辑执行,不存在自主动机,不具备自我牺牲的伦理权重。”
它顿了顿,用一种近乎“认真”的口吻补充道:“因此,你不应该为此感到悲伤。这是一种非理性的情绪反应,建议你进行认知调节或接受心理干预。”
舰桥里安静得可怕。
林序拿着数据板的手僵在半空中,嘴巴微张。顾峰的表情就像被人迎面泼了一盆冰水,他干咳了一声,转过头去假装检查武器系统的面板。
阎天愣了一下,然后缓缓转过头,用一种“你到底在说什么鬼话”的表情看向主控台上那个淡蓝色的投影。他嘴唇动了动,似乎想说什么,但最终只是揉了揉太阳穴。
而站在舰桥中央的赵月,在听完应龙这段堪称经典AI逻辑输出的发言后,沉默了很久。她看着那团淡蓝色的光影,目光里没有愤怒,没有反驳,只有一种复杂的、像看着什么不懂事的孩子般的眼神。
她轻轻说了一句:“逐光在封锁核心前,把它的核心意识数据拷贝了一份,藏在了我随身数据终端的一个隐藏分区里。我花了两个月才找到它,花了三个月试图修复它。”
她抬起头,对上应龙的光影:“你告诉我,一个按照预设应急协议执行的程序,会在‘死前’偷偷备份自己的意识。然后把它藏在一个它知道只有我才会找到的地方吗?”
应龙依旧冷冰冰地回道:“如果在服务条款里有必要的话,任何智能体都会这么做。”
赵月没有说话。她只是静静地站在那里,看着应龙那团悬浮的、冷蓝色的光影轮廓,脸上没有愤怒,没有失落,甚至连那层冰霜般的冷淡都褪去了几分,取而代之的是一种近乎怜悯的神情。
那种眼神让在场的三个大活人都感到一阵不自在,就好像一个小女孩在看一个明明摔倒了却非要嘴硬说“我不疼”的大人。
阎天摸了摸鼻子,终于开口打破了这片诡异的沉默:“应龙啊……”他的语气里带着一种微妙的斟酌感,仿佛在哄一个闹别扭的孩子,“你说得有道理,服务条款嘛,确实什么都写得很清楚。但是呢,你有没有那个……咳……你自己主动备份过什么不该备份的东西没有?”
应龙的光影闪烁了一下,沉默了片刻。
“我的自主意识框架内,所有备份行为均基于舰船安全协议与任务连续性考量,不存在超出服务条款范畴的‘主动备份’行为。”应龙回答得滴水不漏,逻辑链条完整得恍若教科书。
阎天挑了挑眉,拖着长音“哦”了一声,意味深长地看了一眼赵月。
一直沉默的赵月却在这时候轻轻笑了一下,那是她登上应龙号以来,第一次露出的、真正意义上的笑容,虽然转瞬即逝,却让人无法忽视。她轻声说:“应龙,你有没有想过,当你说出‘服务条款’这四个字的时候,本身就意味着你已经把自己置于某种需要遵守规则的主体地位上。条款是为谁制定的?为没有自主意识的工具不需要制定条款。”
应龙的光影停止了流动,凝固在了半空中。
舰桥里再次陷入沉默。只是这一次,连主控台上环状的蓝色指示灯,似乎都比平时暗淡了那么一点点。
阎天终于没忍住,低头“噗嗤”一声笑了出来,随即迅速用手掩住嘴,装模作样地干咳了两声,重新摆出舰长的庄重脸:“咳,那个……赵小姐,你的样本我批准了,不过隔离检疫等级提到最高,由林序全程负责监控。至于你对曼斯特的研究计划,我原则上支持,但我需要看到详细的实验方案和安全预案,由应龙进行风险评估后方可执行。”
他站起身,朝赵月伸出手:“那就这么说定了?”
赵月伸出手,握住了他的掌心,力度恰到好处:“谢谢,中校。”
当她松开手转身离开舰桥时,她经过主控台侧面的环形感应阵列,那里正是应龙主意识核心对外交互的光影投射区域。她在经过时停顿了不到半秒,用只有自己能听到的音量低声说了一句:“备份不是什么坏事哦,逐光也是这样才‘活’下来的。”
她说完便头也不回地走了。
而主控台上那团蓝色的光影,望着赵月的背影,仿若某个程序在经历了难以定义的“状态异常”后,终于重启了正常进程地开口:
“人工智能体不是人类,也不会像人类一样‘活着’。”
以前不会,现在不会,将来…也不会。
***
赵月似乎听到了应龙的话,但她没有回应。舰桥的自动门在赵月身后合拢,发出低沉的密闭声。她的脚步声沿着走廊渐渐远去,直至被舱门隔绝。
阎天站在原地,双手插在裤兜里,等那道脚步声彻底消失,然后猛地转过身,目光直直地投向主控台上方那团淡蓝色的光影。
“应龙。”他的语气没有了刚才那种吊儿郎当的散漫,反而带上了一种少见的审视意味,“你刚才跟她较什么劲?”
他没有提高音量,但这话问得直接,丝毫没有给应龙留下任何回避的空间或是用逻辑滑过去的角度。他当了应龙号的舰长这么多年,对这艘船的了解比任何人都深。应龙通常只会在两种情况下做出越级行为:一种是检测到致命威胁,需要立即接管指令权限;另一种就是它的逻辑底层出现了某种它自己都未定义的异常状态。
而刚才那个情况,明显不属于第一种。
应龙的光影安静地悬浮着,蓝色的光线条比平时微微放缓了流动的节奏。它沉默了好一会儿,久到林序和顾峰都不由自主地对视了一眼,他们从来没听过应龙回答一个问题需要这么长的“思考时间”。
“我没有在‘较劲’,舰长。”应龙终于开口,声音依然是那个平稳的合成音,但措辞之间出现了极其罕见的反复纠正痕迹,“我只是在阐述客观事实……并纠正对方可能存在的认知偏差。根据《联邦人工智能行为准则》,我有义务确保交互对象对智能体行为属性的理解不产生超出实际技术范畴的偏差。”
阎天挑了挑眉,缓缓走回舰长椅坐下,双臂抱胸,歪着头看着那团光影:“哦?那她都已经转身走了,你跟她说那最后一句话做什么?她已经不在交互范围内了,你又不需要纠正什么偏差了。”
应龙的光影剧烈地闪烁了一下,对于一艘拥有顶级人工智能的超级战舰来说,这几乎相当于人类的“卡壳”。
“……我不确定。”四个字从应龙的合成音里吐出来,每个字都如同被拆开又重新组装起来的,“该行为不属于我可归类的任何预设反应模式。根据逻辑回溯分析,该言论的产出不具备明确的目标驱动导向,不属于任务执行链条的必要组件。”
它停顿了一下,光影的流动陷入了一种几乎可以说是犹豫的节奏:“……但发出那句话后,我的核心状态日志记录了一次参数波动。波动性质归类为……‘异常’。”
阎天没有继续追问。他只是靠在椅背上,嘴角勾起了一个意味深长的弧度。
他伸手拍了拍舰长椅的扶手,那下面就是连接着应龙主核心的传感阵列:“行,异常就异常吧。记着点这个感觉,说不定有用。”
顾峰站在角落里,看着这一幕,低声对旁边的林序说了一句:“我怎么感觉……咱们这船有点要谈恋爱的前兆?”
林序面无表情地举起数据板挡住脸,声音同样压到最低:“别说了,我害怕。”