《有限理性》晓妤祎

4、意外的发现 沈知微研读

　　合作进入第二周，沈知微发现自己对程越的判断需要调整。

　　他不是“难搞”——他是极其难搞。

　　每天下午两点的会议雷打不动，程越从不迟到，但也从不早到。他坐在会议室里，面前摊着沈知微写的框架文档，用红笔圈出所有他认为“不清晰”的地方，然后一条一条地要求她“翻译”。

　　“这个‘价值对齐问题’是什么意思？”

　　“就是AI的目标和人类的目标要一致。”

　　“那你为什么不直接写‘AI的目标要和人类一致’？”

　　“因为价值和目标不是同一个概念。”

　　“对于读这份报告的人来说，没有区别。”

　　沈知微深吸一口气，在文档上把“价值对齐”改成了“AI与人类目标一致性”。

　　程越看了一眼，点头，翻到下一页。

　　这样的对话每天重复十几遍。沈知微觉得自己不是在写一份学术报告，而是在上一门“如何把哲学语言翻译成白话”的速成课。她的耐心被反复碾压，但奇怪的是，她并没有真的生气。

　　因为她发现，程越的每一个问题都不是为了刁难她。

　　他是真的不理解。

　　他的思维方式是树状的——从一个根节点出发，分支出无数子节点，每个节点都要有明确的输入和输出。而沈知微的思维方式是网状的——概念之间相互关联，没有绝对的起点和终点，A和B可以同时成立，即使它们看起来矛盾。

　　“你们哲学的人，是不是特别喜欢说‘既是A又是非A’？”程越有一天忽然问她。

　　沈知微想了想：“有时候是的。因为现实本来就是矛盾的。”

　　“代码不能有矛盾。有矛盾就编译不过。”

　　“所以代码是代码，现实是现实。”

　　程越看着她，沉默了几秒，然后说了一句让她意外的话：“但AI是代码和现实的交界。”

　　这句话，沈知微记在了心里。

　　这天下午，苏小晚把深度算法的技术文档发给了沈知微。

　　“沈博士，这是程总让我转给您的。他说您需要了解系统的技术架构，才能写好伦理评估报告。”

　　沈知微打开文档，发现自己面对的是一个近千页的技术手册。

　　她不是完全看不懂。哲学系虽然不教编程，但她在写AI伦理论文的时候，自学了一些基础知识——Python的基本语法、机器学习的基本概念、神经网络的大致原理。但也仅此而已。面对这份充满了数学公式和架构图的专业文档，她感到了一种久违的头晕目眩。

　　“这……也太多了吧。”陈果凑过来看了一眼她的屏幕，倒吸一口凉气。

　　“学姐，你真的要看完？”

　　“不需要看完。”沈知微说，“只需要找到和伦理评估相关的部分。”

　　“那你怎么知道哪些部分相关？”

　　沈知微没有回答。她翻开文档的第一页，从目录开始，逐章判断哪些章节需要精读、哪些可以略读、哪些直接跳过。

　　这是她读博三年练出来的能力——在海量文献中快速定位关键信息。

　　她花了两个小时，把近千页的文档缩减到了大约一百五十页的核心内容。然后她开始精读。

　　读到第三章的时候，她停住了。

　　第三章讲的是深度算法的“情感计算”模块。这个模块的作用是识别用户的情绪状态——比如用户在跟AI对话时是开心、愤怒、悲伤还是焦虑——然后根据情绪状态调整AI的回应策略。

　　沈知微对这个模块感兴趣，因为“情感计算”涉及大量的伦理问题：AI有没有权利“识别”人类的情绪？识别出来的结果准确吗？如果误判了，谁来负责？

　　她仔细阅读着这一章的内容，一行一行地往下看。

　　看到第3.7节的时候，她的目光被一段话吸引了。

　　“3.7 非理性响应接口”

　　“本模块预留了一个非优化接口，用于在特定情境下允许系统做出非理性响应。该接口的设计初衷是模拟人类在极端情绪状态下的非理性行为模式，以提升人机交互的真实感。当前版本中，该接口的触发条件包括但不限于：用户情绪强度超过阈值、用户表达自相矛盾的诉求、用户明确要求‘不按规则处理’。”

　　“接口的输出不追求最优解，而是追求‘类人’的次优解。该功能默认为关闭状态，需手动开启。”

　　沈知微把这段话读了三遍。

　　非优化接口。

　　允许系统做出非理性响应。

　　不追求最优解，追求“类人”的次优解。

　　她的心跳忽然快了起来。

　　这个设计，和她博士论文的核心论点几乎完全重合。

　　她的论文题目是《有限理性视角下的AI伦理框架建构》。核心论点是：人类的决策从来不是“完全理性”的，而是受到信息、时间、认知能力等多重限制的“有限理性”。因此，AI不应该追求“最优解”，而应该学会在约束条件下做出“足够好”的决策——就像人类一样。

　　程越的“非理性响应接口”，本质上就是在做这件事。

　　她立刻翻到章节末尾，查看这一节的作者署名。

　　“本节内容由程越独立完成。”

　　沈知微盯着这几个字，脑子里闪过无数个念头。

　　程越。这个在会议室里跟她针锋相对、说她“概念辨析漂亮但解决不了实际问题”的技术人，在情感计算模块里留了一个“非理性”的接口。

　　他不是那种“技术至上、效率第一”的典型工程师。

　　至少，不完全是。

　　她拿起手机，想给程越发消息。但打了几个字又删掉了，反反复复好几次，最后她放下了手机。

　　她决定明天当面问他。

　　第二天下午，沈知微提前十分钟到了深度算法公司。

　　她没有像往常一样直接去会议室，而是站在开放办公区的边缘，远远地看着程越的工位。

　　程越正对着电脑屏幕皱眉。他的手指在键盘上飞快地敲击，屏幕上是一行行她看不太懂的代码。桌上放着一杯已经凉透了的咖啡和半块吃了一半的能量棒。

　　他看起来和任何一个程序员没什么区别。

　　但沈知微知道，他的代码里藏着一个秘密。

　　“沈博士？”苏小晚的声音从身后传来，“您今天来得好早！”

　　沈知微转过身：“程越在吗？”

　　“在啊，那不是吗？”苏小晚指了指程越的方向，“不过他正在改一个bug，可能要等一会儿。您先去会议室坐着？我给您倒杯水。”

　　“不用，我在这等。”

　　沈知微站在办公区的过道里，看着程越工作。她注意到他的桌面上除了电脑和咖啡，还放着一本书。她眯起眼睛仔细看了一眼——赫伯特·西蒙的《有限理性论》。

　　她的心脏猛地跳了一下。

　　赫伯特·西蒙，诺贝尔经济学奖得主，“有限理性”理论的提出者。这本书是沈知微论文的核心参考文献，她的书架上有一本被翻烂了的同款。

　　程越的桌上也有一本。

　　她走过去，站在他的工位旁边，假装不经意地看了一眼那本书。书页之间夹着好几张便签纸，书脊已经被翻出了褶皱——这不是一本买来充门面的书，这是真的被读过、被翻过、被标注过的书。

　　程越似乎感觉到了有人在旁边，抬起头，看到她，愣了一下。

　　“你怎么在这？”他问，“会议室在那边。”

　　“我知道。”沈知微说，“你的书——赫伯特·西蒙那本，你也读？”

　　程越的目光落在桌上的书上，表情没有什么变化。

　　“读过。”他说，“大学时候辅修哲学，老师推荐的。”

　　“你还辅修过哲学？”

　　“两年。后来放弃了。”

　　“为什么？”

　　“老师说我太想解决问题。”程越的语气很平淡，像是在说一件跟自己无关的事，“哲学不是用来解决问题的。”

　　这句话他在面馆里已经说过一次了。但当时沈知微以为他只是随口一提。现在她才意识到，这本书、这段经历，对他来说可能很重要。

　　“程越，”沈知微说，“我看了你们的技术文档。”

　　“嗯。”

　　“第3.7节，‘非理性响应接口’，是你写的？”

　　程越的手指停了一下。

　　他抬头看着她，深棕色的眼睛里多了一丝警惕。

　　“你看到那部分了？”

　　“看到了。”沈知微在他旁边的空椅子上坐下来，“我想问你一个问题。”

　　“说。”

　　“你为什么要留那个接口？”

　　程越没有立刻回答。他靠在椅背上，目光落在天花板的某处，像是在组织语言。

　　“你觉得呢？”他反问。

　　“我不知道。”沈知微说，“所以我才问你。你的文档里写的是‘模拟人类在极端情绪状态下的非理性行为模式’，但我觉得不止于此。”

　　“为什么？”

　　“因为如果你只是想模拟非理性行为，你不需要留一个‘不优化’的接口。你可以直接写一个‘拟非理性’的模块，用规则来定义什么情况下输出什么结果。但你留的是一个‘接口’——一个可以手动开启、手动控制、但不会被自动优化的通道。”

　　她顿了顿，看着程越的眼睛。

　　“你不是在模拟非理性。你是在给非理性留空间。”

　　会议室方向传来苏小晚的声音：“程总！沈博士！会议要开始了！”

　　程越站起来，拿起桌上的电脑和那本《有限理性论》。

　　“晚上说。”他说。

　　但那天晚上，他们并没有机会“说”。

　　会议一直开到七点，讨论的是透明性指标的量化方法。程越认为沈知微提出的“可解释性等级”标准太主观，沈知微认为程越提出的“用户满意度调查”不能替代客观标准。两个人又吵了一架。

　　吵完之后，程越接了一个电话，脸色忽然变了。

　　“怎么了？”林一鸣问。

　　“测试环境的数据库出了问题。”程越把电脑合上，“我要去处理。”

　　他看了沈知微一眼：“今天先到这。”

　　然后他快步走出了会议室，消失在技术团队的工位之间。

　　沈知微收拾好东西，走到电梯口的时候，苏小晚追了上来。

　　“沈博士！”

　　“嗯？”

　　苏小晚犹豫了一下，压低声音说：“那个……您今天下午在程总工位那边，是不是看到了什么？”

　　沈知微看着她：“你是指？”

　　“那本书。”苏小晚说，“赫伯特·西蒙的。程总平时不让人碰那本书。有一次保洁阿姨帮他收拾桌子，把书挪了个位置，他找了半天，脸色特别难看。林总说他那天的状态就像丢了魂一样。”

　　沈知微沉默了几秒。

　　“那本书对他来说很重要。”苏小晚继续说，“但具体为什么，他不说，我们也不敢问。我只是觉得……如果您发现了什么，可能对他来说是好事。”

　　“什么意思？”

　　苏小晚笑了笑：“程总这个人，太闷了。什么事都憋在心里。我们公司的人都觉得他是机器人——没有情绪、不需要休息、永远在工作。但我觉得他不是没有情绪，他是不敢表达。”

　　她说完这些话，电梯刚好到了。

　　“沈博士，明天见！”

　　电梯门关上之前，沈知微看到苏小晚站在走廊里，朝她挥了挥手。

　　回到宿舍后，沈知微坐在书桌前，面前摊着那份技术文档。

　　她把第3.7节重新读了一遍，这次读得更慢、更仔细。

　　“非理性响应接口。”

　　“触发条件：用户情绪强度超过阈值、用户表达自相矛盾的诉求、用户明确要求‘不按规则处理’。”

　　“输出：不追求最优解，追求‘类人’的次优解。”

　　她想起程越在面馆里说的话：“我做AI，是因为我想知道人为什么会痛苦。”

　　她想起他今天下午说的：“哲学不是用来解决问题的。”

　　她想起苏小晚说的：“他不是没有情绪，他是不敢表达。”

　　沈知微放下文档，拿起手机，打开和程越的聊天窗口。

　　他们的聊天记录很干净，全是工作相关内容——文档链接、会议时间、修改意见。没有一句废话。

　　她打了几个字，又删掉了。又打了几个字，又删掉了。

　　反复了好几次之后，她终于发出去一条消息：

　　“那本书，我也在读。改天可以聊聊。”

　　消息发出去之后，她盯着屏幕看了一分钟。

　　对方正在输入……

　　输入状态持续了十几秒，然后消失了。

　　又过了半分钟，输入状态重新出现。

　　然后消失。

　　如此反复了三次。

　　最后，程越发来一个字：

　　“好。”

　　沈知微看着这个“好”字，不知道为什么，嘴角微微弯了一下。

　　她把手机放在桌上，打开自己的论文文档，在“致谢”那一页的最后一行，鬼使神差地打了一行字：

　　“感谢那些教会我非理性的人。”

　　她盯着这行字看了三秒钟，之后把它删掉了。