《有限理性》晓妤祎

8、听证会 沈知微与程

　　伦理审查听证会定在十月中旬的一个周一。

　　沈知微提前三天把最终版的评估报告发给了周远航。周远航看完后，给她打了一个电话。

　　“框架很扎实，论证很清晰。”周远航的声音里带着满意的笑意，“深度算法那边配合得怎么样？”

　　“还行。”沈知微说。

　　“程越没给你添麻烦吧？”

　　沈知微想起程越在会议室里用红笔圈出的那些“太绕”的段落，想起他在深夜加班时说的那句“你能不能不要这么理性地安慰人”，想起他左手插在口袋里的样子。

　　“没有。”

　　“那就好。听证会那天我也会在场，但你主要负责陈述。深度算法那边是程越答辩？”

　　“对。”

　　“你们两个配合好。伦理委员会的那几位老教授，问问题很刁钻的。”

　　沈知微挂了电话，盯着手机屏幕看了一会儿。

　　她和程越配合。

　　这两个字放在一起，在一个月前，她想都不敢想。

　　听证会前一天，沈知微和程越在深度算法的会议室里做最后的演练。

　　沈知微把伦理委员会可能问的问题列了一个清单，足足列了三十多个。她一个一个地过，程越一个一个地答。

　　“第三个问题：算法的透明性如何保障用户的知情权？”

　　“系统提供决策结果的简要解释，用户可申请详细解释。”

　　“第四个问题：如果用户不认可AI的决策，申诉渠道是什么？”

　　“人工复核。所有被用户质疑的决策，都会进入人工审核流程。”

　　“第五个问题：人工复核的人员资质和培训标准是什么？”

　　程越顿了一下。

　　沈知微抬头看他。

　　“目前没有统一标准。”程越答到

　　“那你准备怎么回答？”

　　“实话实说。然后补充：我们会在三个月内建立标准。”

　　沈知微在清单上打了个勾：“可以。诚实比完美更重要。”

　　演练持续了三个小时。结束时，程越把电脑合上，靠在椅背上，长长地呼了一口气。

　　“你紧张？”沈知微问。

　　“不是紧张。”程越说，“是不喜欢这种场合。说错一句话，可能影响整个项目。”

　　“那你明天少说话。我来答大部分问题。”

　　程越看了她一眼：“你确定？”

　　“评估报告是我写的，我最清楚里面的逻辑。”沈知微说，“你只需要回答技术实现层面的问题。伦理层面的事，交给我。”

　　程越沉默了几秒。

　　“沈知微，”他说，“你好像很擅长这个。”

　　“擅长什么？”

　　“擅长在别人紧张的时候，把压力接过去。”

　　沈知微愣了一下。

　　她确实在这么做。但她没有意识到。

　　“可能是因为我是辩论队出身。”她说，“比赛的时候，每个人都有自己的分工。有人负责立论，有人负责攻辩，有人负责总结。各司其职，才不会乱。”

　　“你在辩论队打什么位置？”

　　“攻辩。”

　　“怪不得。”程越说，“你每次反驳我的时候，都像在打比赛。”

　　沈知微忍不住笑了：“那你呢？你打什么位置？”

　　“我没打过辩论。”

　　“那你擅长什么？”

　　程越想了一下：“擅长写代码。”

　　“那你明天就负责写代码的部分。”沈知微说，“其他的，我来。”

　　听证会在伦理委员会的会议室举行。

　　一张长桌，沈知微和程越坐在一边，对面是五位伦理委员会的专家。周远航坐在长桌的一端，手里拿着一份评估报告，表情平静。

　　沈知微环顾了一圈对面的五位专家。她认识其中三位——都是国内科技伦理领域的权威，论文被引用次数加起来比她年龄还大。另外两位她不认识，但从胸牌上看，一位是法学教授，一位是计算机领域的退休教授。

　　程越坐在她旁边，面前摆着电脑，表情看起来和平时没什么区别。但沈知微注意到，他的左手插在口袋里。

　　她不动声色地把自己的笔记本往他的方向挪了两厘米。

　　程越低头看了一眼，又抬头看了她一眼。

　　沈知微没有看他。她的目光落在对面的专家身上，表情专业而平静。

　　“各位老师好，我是沈知微，T大哲学系博士生，负责本次评估报告的框架设计和内容撰写。这位是深度算法的CTO程越，负责技术层面的答辩。”

　　她翻开笔记本，开始陈述。

　　她没有用PPT，因为她认为PPT会让人分心。她的陈述完全基于评估报告的核心逻辑，从公平性、透明性、问责性、隐私保护四个维度，逐层展开。语速不快不慢，每一个论点都有依据，每一个结论都有推导过程。

　　周远航在长桌的一端微微点头。

　　对面的专家们安静地听着，没有人打断她。

　　沈知微陈述完毕，用了十五分钟。

　　“以上是报告的核心内容。下面请各位老师提问。”

　　法学教授第一个开口：“沈博士，报告第47页提到‘算法的可解释性应与决策风险等级挂钩’。这个‘风险等级’的划分标准是什么？”

　　“风险等级根据决策对用户权益的影响程度划分。”沈知微翻开笔记本，“高风险场景包括医疗诊断、金融授信、司法辅助等，要求算法提供完整的决策逻辑解释。中风险场景包括内容推荐、智能客服等，要求提供简要解释。低风险场景可不提供解释，但用户有权申请复核。”

　　“这个划分标准的依据是什么？”

　　“欧盟《人工智能法案》的风险分级框架，结合中国《个人信息保护法》的相关条款。”沈知微说，“具体对照表在报告附录三，第89页。”

　　法学教授翻到附录三，看了一会儿，点了点头。

　　计算机领域的退休教授接着问：“程总，你们系统的‘可解释性’是怎么实现的？”

　　程越的身体微微前倾。

　　“我们采用LIME算法框架，对模型的决策进行局部近似解释。”他说，声音平稳，“对于高风险决策，系统会生成决策树路径图，展示影响决策的主要特征因子及其权重。”

　　“准确率呢？”

　　“解释的保真度在92%以上。”

　　“那剩下的8%呢？”

　　程越顿了一下。

　　沈知微的手指在笔记本上轻轻敲了一下。

　　“剩下的8%属于模型的黑箱区域。”程越说，“这部分决策无法用现有框架解释。我们的处理方式是：对于落入黑箱区域的高风险决策，系统不会自动输出结果，而是转交人工处理。”

　　退休教授推了推眼镜：“这个‘黑箱区域’有多大？”

　　“因模型而异。目前版本的金融风控模型，黑箱区域占比约为7%。”

　　“7%的决策需要人工处理，你们的人手够吗？”

　　“目前不够。”程越说，“我们在招聘。同时也在优化模型，目标是半年内将黑箱区域压缩到3%以下。”

　　退休教授没有再问了。

　　沈知微在心里松了一口气。

　　接下来的问题一个接一个。有关于数据隐私的，有关于算法偏见的，有关于责任归属的。沈知微负责回答伦理层面的问题，程越负责回答技术实现层面的问题。两个人交替发言，节奏流畅，配合默契。

　　有一次，一位专家问了一个关于“公平性指标量化”的问题，沈知微刚准备回答，程越在桌子下面轻轻碰了一下她的膝盖。

　　沈知微微微一顿，把话咽了回去。

　　程越开口了：“这个问题我来答。公平性指标的量化和我们系统的实际表现有关，沈博士的框架给出了方向，具体数值由我们技术团队提供。”

　　他回答完毕，膝盖离开沈知微的膝盖。

　　沈知微面不改色地在笔记本上写了一个字：“谢。”

　　程越没有回应。

　　但沈知微注意到，他的左手从口袋里拿出来了。

　　听证会进行了两个小时。

　　最后，伦理委员会主任合上报告，看了看两边的专家，说了一句沈知微期待了两个小时的话。

　　“今天的听证会到此结束。评估报告原则上通过，后续根据各位专家的书面意见进行微调。”

　　沈知微的手指在膝盖上轻轻攥了一下。

　　程越没有表情变化。但沈知微看到他的肩膀微微松了。

　　周远航走过来，拍了拍沈知微的肩膀：“表现不错。”

　　然后他看着程越，伸出手：“程总，恭喜。”

　　程越和周远航握了手：“谢谢周老师。”

　　周远航走了之后，会议室里只剩下沈知微和程越两个人。

　　沈知微把笔记本合上，放进帆布袋里，站起来。

　　程越坐在椅子上，没有动。

　　“你还不走？”沈知微问。

　　“等一下。”程越说，“你刚才表现很好。”

　　“你也是。”

　　“我说真的。”程越抬起头看着她，“如果没有你，我今天可能会被问住好几次。”

　　沈知微把帆布袋的带子挂在肩膀上：“你不是说我不切实际吗？”

　　程越的嘴角微微弯了一下。

　　“我收回。”

　　两个人一起走出会议室，沿着走廊往电梯口走。

　　走廊很长，两侧是落地窗，午后的阳光从窗户照进来，在地板上投下一片一片的光斑。

　　程越走在沈知微的左边，步速比平时慢。

　　“沈知微。”

　　“嗯？”

　　“你晚上有空吗？”

　　沈知微转头看了他一眼。

　　程越的目光落在前方，表情看起来和平时没什么区别。但沈知微注意到，他的左手又插进了口袋里。

　　“怎么了？”

　　“请你吃饭。”程越说，“不是工作餐。是……谢谢你这次帮忙。”

　　沈知微的脚步顿了一下。

　　不是工作餐。

　　这四个字，从程越嘴里说出来，带着一种笨拙的郑重。

　　“好。”

　　程越的左手从口袋里拿出来了。

　　“吃什么？”

　　“你选。”

　　“我不擅长选餐厅。”

　　“那你擅长什么？”

　　“写代码。”

　　沈知微忍不住笑了：“那你用代码写一个餐厅推荐算法。”

　　“来不及。模型还没训练。”

　　两个人走到电梯口，沈知微按了下行键。

　　电梯门打开的时候，程越忽然说了一句。

　　“沈知微。”

　　“嗯？”

　　“你今天穿的外套，颜色很好看。”

　　沈知微低头看了一眼自己身上的浅灰色风衣。

　　她今天出门的时候，确实在这件风衣和另一件黑色的之间犹豫了三秒钟。

　　“谢谢。”

　　电梯门关上的时候，她看到程越站在走廊里，阳光落在他肩膀上，他的表情比平时柔和了很多