《有限理性》晓妤祎

1、初次见面，请多指教 沈知微与程

　　九月的北京还没有褪去暑气，清华园里的梧桐叶已经开始泛黄。

　　沈知微从人文学院出来时，手里攥着导师刚给的课题任务书，眉头微微蹙起。银框眼镜后面那双眼睛盯着纸上的几行字，像是在看一道无解的证明题。

　　“人工智能伦理审查实践研究——深度算法科技有限公司合作项目”。

　　她把任务书翻到第二页，看到了合作方的介绍：深度算法，成立于2021年，专注人工智能决策系统研发，核心产品已应用于金融、医疗、政务等多个领域。公司联合创始人兼CTO程越，清华大学计算机系博士，主要研究方向为机器学习与情感计算。

　　沈知微停下脚步，站在学院门口的台阶上，把这段话又看了一遍。

　　“情感计算”。

　　她把任务书折好放进帆布袋里，沿着学堂路往南门走。九月的阳光透过梧桐叶的缝隙洒下来，在她白色的衬衫上投下斑驳的光影。

　　手机震动了一下。导师周远航发来消息：“知微，深度算法那边我已经联系好了，明天下午两点，你去他们公司见一下CTO程越。后续的合作细节你们当面聊。”

　　沈知微打字回复：“好的，周老师。”

　　她犹豫了一下，又打了一行字：“这个项目的合作周期大概是多久？”

　　周远航很快回复：“三个月左右。深度算法的AI决策系统要过伦理审查，需要一份完整的评估报告。你负责框架设计和内容撰写，技术细节他们会配合。这个课题做好了，你的毕业论文核心案例就有了。”

　　三个月。

　　沈知微在心里默念了一遍这个数字。不算太长，也不算太短。她目前的博士论文进展到第二章，关于“有限理性理论在AI伦理中的应用”，这个合作项目恰好能提供实证材料。

　　从学术角度来说，这是好事。

　　但从实际操作角度来说，她需要和一个AI公司的CTO打交道。沈知微对技术人员的刻板印象谈不上好也说不上坏，她只是想起前男友分手时说的那句话：“沈知微，你什么都想分析，什么都想搞清楚，但有些东西不是靠逻辑就能解决的。”

　　当时她回了一句：“那你告诉我，靠什么解决？”

　　他沉默了很久，最后说：“算了。”

　　“算了”这个词，在沈知微的词典里，是最不负责任的结论。

　　她收回思绪，加快脚步往南门走。下午还有一门课要上，是关于“科技伦理前沿问题”的讨论课，她需要准备一个关于“算法偏见”的案例。

　　第二天下午，沈知微提前二十分钟到了深度算法公司。

　　公司在五道口附近的一栋写字楼里，占了整层。前台是一个年轻的女孩，看到她进来，热情地站起来：“您好，请问找哪位？”

　　“我是T大哲学系的沈知微，和周远航老师一起来的，约了程越先生两点见面。”

　　前台女孩翻了翻访客登记本，点点头：“沈博士是吧？程总临时有个会，可能要晚一点。您先到会议室坐一下？”

　　“好，谢谢。”

　　前台女孩带她穿过办公区，往里面的会议室走。沈知微一边走一边打量着周围的环境。

　　开放式的办公区里坐着几十个年轻人，大多数穿着T恤和牛仔裤，盯着电脑屏幕敲代码。墙上有几块白板，画满了算法架构图和公式推导。空气中弥漫着咖啡和打印纸混合的味道。

　　这是典型的互联网公司风格——高效、务实、不讲究形式。

　　会议室在办公区最里面，玻璃隔断，里面有一张长桌、六把椅子、一台投影仪。桌上放着一盒没拆封的纸巾和一盆快要枯死的绿萝。

　　“您先坐，我去给您倒杯水。”前台女孩说完就出去了。

　　沈知微在靠窗的位置坐下来，从帆布袋里掏出笔记本和笔，翻开到空白页，在第一行写下日期和“深度算法初次沟通”。

　　然后她开始等。

　　五分钟过去了。十分钟过去了。十五分钟过去了。

　　沈知微看了一眼手机上的时间：14:17。

　　她没有不耐烦，只是把笔记本翻到前面几页，开始复习自己准备的沟通要点。她列了三个核心问题：第一，深度算法的AI决策系统具体应用在哪些场景？第二，现有的伦理审查机制有哪些漏洞？第三，公司对“算法透明度”的态度是什么？

　　第三个问题是最关键的，也是最容易产生分歧的。

　　在AI伦理领域，“算法透明度”是一个核心议题。简单来说，就是AI做出某个决策时，能不能向用户解释“为什么”。比如一个AI系统拒绝了某人的贷款申请，它能不能告诉申请人是因为收入不够、还是信用评分不足、或者是其他什么原因？

　　很多技术公司对“透明度”持保留态度。原因也很简单：第一，有些深度学习算法本身就是“黑箱”，连设计者都说不清它为什么做出某个决策；第二，就算能解释，公司也可能以“商业机密”为由拒绝公开。

　　沈知微想知道程越的态度。

　　14:23，会议室的玻璃门被推开了。

　　一个年轻男人走进来，穿着灰色卫衣和深蓝色牛仔裤，脚上是一双看起来穿了很久的运动鞋。他手里抱着一个笔记本电脑，屏幕上还亮着代码编辑器的界面。

　　“沈知微？”他问。

　　沈知微站起来：“我是。程越？”

　　“嗯。”他把电脑放在桌上，拉开椅子坐下来，目光扫了一眼她面前的笔记本，然后落在她脸上，“抱歉，临时有个技术问题要处理。”

　　他说“抱歉”的时候，语气里并没有什么歉意。就像在陈述一个事实：我迟到了，因为有事要处理。没有多余的解释，也没有寒暄。

　　沈知微坐下来：“没关系。那我们开始？”

　　“等一下。”程越打开电脑，手指在键盘上敲了几下，眼睛盯着屏幕，“我在等一个编译结果，可能需要几分钟。你先说。”

　　沈知微看着他的侧脸。他的五官轮廓分明，下颌线条利落，但眼下有明显的黑眼圈，看起来像是长期睡眠不足。他的注意力完全在电脑屏幕上，甚至没有转过头来看她一眼。

　　“好。”沈知微翻开笔记本，“周老师应该跟你提过，这次合作的目标是完成一份AI伦理评估报告，为你们的产品上线提供合规依据。我需要了解几个核心问题。”

　　“嗯。”程越应了一声，眼睛还是没离开屏幕。

　　“第一个问题，你们的AI决策系统目前主要应用在哪些场景？”

　　“金融风控和医疗辅助诊断。”程越说，“金融那边已经上线了，医疗还在测试阶段。”

　　沈知微在笔记本上记下来：“第二个问题，系统在做决策时，用户能否获得解释？比如一个贷款申请被拒了，系统会不会告诉申请人具体原因？”

　　程越的手指停了一下。

　　他终于转过头来，第一次正眼看沈知微。

　　他的眼睛是深棕色的，瞳孔很黑，看人的时候有一种近乎审视的专注。沈知微被他这样看着，心里微微动了一下，但面上没有表现出来。

　　“你研究AI伦理的？”他问。

　　“哲学系，方向是人工智能伦理。”

　　“所以你站在‘透明度必须最大化’的立场上？”

　　沈知微没有直接回答：“我想先了解你们的做法。”

　　程越合上电脑，身体往后靠在椅背上。他看着她，嘴角微微动了一下，不知道是笑还是别的什么。

　　“我们的算法是深度神经网络，你知道这意味着什么吗？”

　　“知道。”沈知微说，“黑箱问题。”

　　“对。”程越点头，“有些决策路径连我自己都追溯不了。你让我给你一个‘解释’，我可以给你一个近似的结果，但那不是真正的决策逻辑。而且——”

　　他顿了一下，像是在斟酌措辞。

　　“而且？”沈知微追问。

　　“而且，就算我能给你一个完全透明的解释，用户真的需要吗？”程越的语气变得直接起来，“普通人不会关心算法的数学原理，他们只关心结果准不准确。你觉得一个病人拿到AI诊断结果的时候，是想看一堆概率分布图，还是想听医生说‘你有95%的概率是某种病，我们建议再做一次检查’？”

　　沈知微没有被他带着走。

　　“你说的‘用户不需要理解算法’，和‘用户有权知道决策依据’，是两个不同的问题。”她的声音平静，语速不快，但每个字都咬得很清楚，“前者是用户体验问题，后者是权利问题。你不能因为用户可能看不懂，就剥夺他们知情的机会。”

　　程越挑了挑眉。

　　“你在跟我做概念辨析？”他的语气里带着一丝不易察觉的挑衅。

　　“我在跟你讨论伦理框架。”沈知微不卑不亢，“如果你觉得概念辨析不重要，那我们可以直接谈合规要求——伦理委员会的标准是，高风险决策场景必须提供可解释性。不管你的算法是不是黑箱，这是底线。”

　　会议室里安静了几秒。

　　程越看着她，眼睛里多了一点她读不太懂的东西。不是愤怒，也不是不耐烦，更像是——好奇。

　　“伦理审查是阻碍技术进步。”他忽然说。

　　这句话说得很轻，但沈知微听出了里面的分量。

　　她把手里的笔放下，直视他的眼睛。

　　“没有伦理约束的技术，才是真正的阻碍。”

　　程越没有接话。

　　他的电脑屏幕亮了一下，编译完成了。他低头看了一眼，然后合上电脑，站起来。

　　“今天先到这吧。”他说，“我还有会。后续的事，你跟林一鸣对接。”

　　“林一鸣？”

　　“我们CEO。”程越走到门口，拉开门，回头看了她一眼，“沈知微，你的概念辨析很漂亮。但漂亮的话解决不了实际问题。”

　　他走了。

　　会议室的门在他身后关上，发出轻微的咔哒声。

　　沈知微坐在原地，看着那扇关上的门，慢慢地把笔重新握回手里。

　　她在笔记本上写下一行字：“程越，态度：技术本位，对伦理审查持怀疑态度。核心分歧：透明度 vs. 效率。”

　　写完这行字，她又加了一行：“此人沟通风格：直接、不留余地。后续合作需注意。”

　　她把笔记本合上，放进帆布袋里，站起来往外走。

　　经过办公区的时候，她注意到程越坐在角落里的一张工位上，正对着电脑屏幕皱眉。他的手指在键盘上飞快地敲击，整个人完全沉浸在代码的世界里，仿佛刚才那场对话根本没有发生过。

　　沈知微收回目光，走出了公司大门。

　　九月的风迎面吹来，带着一点点凉意。她站在写字楼下面，仰头看了一眼天空——北京的九月难得有这么蓝的天，没有雾霾，阳光干净得像是被水洗过。

　　她忽然想起周远航昨天说的话：“程越这个年轻人，技术上很厉害，但性格比较……直接。你跟他打交道，要有耐心。”

　　直接。

　　沈知微在心里咀嚼着这个词。

　　她见过很多直接的人。辩论队的队友直接，是因为要在有限时间里把观点说完；导师直接，是因为学术讨论不需要绕弯子；前男友直接，是因为——

　　她打住了这个念头。

　　“算了。”她学着前男友的语气，对自己说了这两个字，然后转身往地铁站走。