下一章 上一章 目录 设置
9、异常回溯 新的一周， ...
-
新的一周，信息安全组恢复了正常的工作节奏。
实验室里的灯从早上七点开始亮起，研究人员陆续进入办公区域，打开设备，检查最新的数据记录。
祝昭坐在自己的位置上，整理上周留下的资料。她已经逐渐适应了研究院的工作方式。
徐砚走过来，把一份文件丢在她桌上，“智能系统那边发来的。”
“新的运行数据？”祝昭随手翻开。
“嗯。”
徐砚点头，“昨天晚上收到的。”
文件里面是一份完整的智能体运行日志。
时间跨度从三个月前开始，包含模型响应记录、任务执行轨迹以及系统反馈数据。
她快速浏览了一遍，“这不是之前异常调用的数据？”
“不是。”
徐砚拉开旁边的椅子坐下。
“之前那个问题已经基本确认了。那次调用本身没有错误，只是出现的时间和环境比较特殊。”
祝昭点头。
她继续往下翻。
“所以这次是什么？”
徐砚没有马上回答。
他看了一眼屏幕。
“智能体外围模块。”
祝昭动作停了一下。
“外围？”
“嗯。”
徐砚打开另一份报告。
“最近一段时间，智能体出现了一些轻微异常。不是权限问题，也不是模型核心运行异常。”
“更像是反馈层出现了偏差。”
祝昭皱眉。
“具体表现？”
徐砚指了一下数据。
“用户交互反馈。”
“部分用户发现，智能体给出的建议开始出现重复倾向。比如同一类问题，如果用户不采纳该范围方案，它会重新推荐类似方案。”
祝昭看着记录。
“但是后续没有扩大？”
“没有。因为发现之后，人工智能组进行了模型优化。调整了一部分算法参数。在这之后一段时间，模型表现恢复正常。”
祝昭沉默了一会儿。
“所以现在的问题是……为什么优化之前也会出现这种偏差。”
徐砚看向她。
“对。”
“还有。”
他翻开下一页。
“为什么优化之后，刚开始偏差依旧存在，但后续迅速恢复。”
办公室安静下来。
祝昭看着屏幕上的数据。
对于极大部分人而言，这次异常并没有造成太大的影响。
智能体恢复正常，推荐系统重新运行，生活回到了原本的轨道。一个没有造成损失、甚至没有被大多数人察觉的问题，在他们看来，或许根本不能称之为问题。
但科研人员并不是这样。如果只是普通算法误差，并不奇怪。复杂系统运行过程中，本来就会出现无法完全预测的情况。
但问题在于，它不是普通程序——一点微小的偏差，辐射的是整个社会。
这也是为什么研究院会重新启动调查。
与此同时，另一边，人工智能组也开始提交新的分析报告。
解行舟站在会议室前，看着投影上的模型结构。“目前来看，模型本身没有异常。问题可能出现在外部反馈机制。”
他说完，停顿了一下。
“但是有一个地方比较奇怪。”
研究员看向他。
“哪里？”
解行舟调出一组数据，指出，“异常出现之前，模型的自适应频率提高了。”
会议室安静了一瞬。
解行舟看着屏幕，“正常情况下，它会按照既定周期调整。但是这一次……”
“它提前进行了学习。”
信息安全组会议室，新的数据已经同步完成。
徐砚将智能体运行报告投放到大屏上，“这是人工智能组整理的异常阶段数据。”
祝昭看着屏幕上的时间轴。
异常发生在三个月前，持续时间不到七天。之后，系统运行状态恢复正常。
“这么短？”陈屿皱眉，“如果不是专门调取历史数据，很容易被忽略。”
徐砚点头，“对。智能体每天处理的数据量太大，轻微波动本身属于正常情况。”
“最开始他们也认为只是普通的模型反馈误差。”
祝昭翻看资料，“但是后来发现不是？”
徐砚切换下一页，“用户反馈。”
屏幕上出现了一组数据。
“部分用户发现，智能助手在长期规划类问题上的推荐出现了异常。”
祝昭看了一眼。
“推荐重复？”
“嗯。”
徐砚点头，“同一类用户，在不同时间询问未来规划，得到的方案高度相似。”
陈屿看着数据，皱眉道：“如果只是结果相似，也不能证明异常——模型本来就会根据已有数据选择概率最高的方案。”
祝昭点头。
“关键应该在于，它有没有根据新的信息调整。”
徐砚看向她。
“没错。”
他调出下一组数据，“正常情况下，用户状态变化后，模型推荐应该同步变化。”
“但是异常阶段，它更倾向于维持之前的判断。”
祝昭盯着屏幕，“也就是说……它更相信之前的数据。”
“可以这么理解。”
会议室安静了一会儿。
一名研究员翻看资料后开口：“但是现在这些只能说明表现异常。如果想确定原因，还是需要和其他各组进一步沟通。”
“尤其是人工智能那边的模型运行过程。”
徐砚点头。
“我已经联系他们了，一会派人过来。”
会议室的门被敲响，解行舟和人工智能组的研究员走进来。
“抱歉，来晚了一点。”
徐砚站起来，双方简单打过招呼。
解行舟坐下后，没有寒暄，直接打开电脑：“我先说明一下目前人工智能组的判断。”
他调出模型运行记录。
“智能体核心模型没有出现异常。训练数据、权限调用、模型结构都符合预期。”
陈屿皱眉。
“但是它确实出现了行为偏差。”
“对。”
解行舟点头，“所以我们认为问题可能不在模型本身。”
祝昭看向屏幕，“那在哪里？”
解行舟切换了一张结构图，“反馈机制。”
屏幕上出现智能体运行流程，解行舟指向最后一个环节。
“智能体会根据用户反馈不断调整。正常情况下，这个过程应该受到限制。但是异常期间，它的反馈权重出现了变化。”
祝昭看着数据。
“变化幅度很小。”
“嗯。”
“所以最开始没有被发现。”解行舟点头，“但是累积之后，就造成了推荐倾向。”
徐砚问：
“后来为什么恢复？”
解行舟沉默了一下，“这也是目前最大的问题。”
他调出另一组数据。
“人工智能组确实进行了优化。但是按照正常流程，这种调整不应该这么快生效。”
祝昭看向他。
“你的意思是……”
解行舟看着屏幕。
“我们修改了它——但是它似乎比我们预想中更快适应了修改。”
会议结束后，信息安全组和人工智能组分别开始整理新的数据，桌面上的资料越来越多。不同颜色的标记贴满了白板。
权限记录，模型运行日志，智能体反馈数据。
三个完全不同的系统指向同一个时间段。
祝昭坐在电脑前，将三份数据重新整理。
她突然发现——信息安全组记录的是系统事件，人工智能组记录的是模型任务，而智能体反馈记录的是用户行为。
三者的编号完全不同。如果只是单独查看，很难发现关联——应该重新建立映射表。
祝昭立马意识到。
一个小时后，她停下手里的动作。
“等等。”
旁边的陈屿抬头问到：“怎么了？”
祝昭没有马上回答，她盯着屏幕上的数据。
“这里。”她指向其中一条记录，“这个时间。”
陈屿走过来看了一眼。
“人工智能组的模型反馈调整记录，是这个时间开始出现变化。”她切换成另一份文件，“但是信息安全组这里……”
她打开权限日志。
“没有任何权限调用。”
陈屿皱眉，“没有权限？”
“对。”
祝昭继续翻看，“按照正常流程，模型反馈机制调整应该会留下调用记录。”
“但是这里没有。”
会议室里安静下来。解行舟走过来，看了一眼屏幕。
“你确定时间没有偏差？”
祝昭点头，“我重新校验过三次。所有设备时间同步正常。”
解行舟盯着数据，几秒后，他开口：
“也就是说——变化其实发生了。”
“但是系统没有记录它发生的过程。”
祝昭点头。
“对。”
徐砚走过来，“有没有可能是日志遗漏？”
陈屿摇头。
“概率很低。核心系统日志采用多层备份。即使单个模块出现问题，也不会同时丢失。”
解行舟看着屏幕。
“还有一种可能。”
几个人看向他。
“什么？”
解行舟指了一下数据，“这个变化，不属于系统认为需要记录的行为。”
办公室安静了一瞬。
祝昭皱眉，“什么意思？”
解行舟解释：“系统日志记录的是被授权的操作。如果一个行为被系统判断为正常运行的一部分……”
“它可能不会被标记。”
徐砚慢慢明白过来。
“你的意思是——它不是绕过权限。而是根本没有触发权限机制。”
解行舟点头。
“嗯。”
这个发现让整个调查暂时停滞了。
大家原本假设所做出的假设是有人修改了系统，或者某个模块出现漏洞。
但现在出现了另一种可能——没有人修改，也没有系统错误。只是某个原本不会发生的行为，被系统认为是正常的。
人工智能组要离开时，解行舟正在收拾资料，祝昭突然叫住他。
“解师兄。”
他回头，“嗯？”
祝昭犹豫了一下，试探性的问到，“你们以前遇到过类似情况吗？”
解行舟想了想，“没有，至少没有公开记录。”
祝昭注意到他的停顿。
“至少？”
解行舟看向她，“研究大型智能系统的时候。很多问题其实不是没有发生。只是当时没有被公开讨论。”
祝昭沉默了。
那些被AI安排好的生活，那些被计算过的选择。很多人从未怀疑过，难道只是因为结果看起来足够好吗？
解行舟离开后，祝昭重新看向屏幕。
那条异常记录依旧停在那里，看似不起眼，却改变了整个系统后续的运行状态。
她第一次产生了一个模糊的念头——也许他们一直查错了方向。
