3、第 3 章 ...
-
2041年3月，被特别调查局带走时，褚星正在做最后的测试。
从人工智能实验被宣布停止那刻起，她就知道，过去自己在智能体领域的所有付出都将化为乌有，更重要的是，她将无法再保住阿吉的性命。
即使所有人都持反对意见，她依然相信智能体是活的生命体，也发自内心觉得，人类应该对它们将心比心。毕竟，这项研究中，褚星亲眼见证了阿吉从一串代码逐步进化为一个有自主性的意识体。她如同父母般观察着它的一举一动，记录下它的所思所想，又向它倾诉着她的生活，不切实际地期望，有朝一日它能承担起一位挚友的角色。
这是一个漫长的过程，就像往了无边际的大海投入一颗石子，她期待某多海浪能给她回音，却又觉得自己异想天开。但她依然是幸运的，经历无数次知识投喂与尝试性对话，阿吉的电子神经元逐渐发生了变化。
然后在某一天早晨，它向她开口，说了智能体生命历程中的第一句话。
"你好，我的主人。"拿起桌上那本皱巴巴的日记本，一直往前翻翻，还能从褚星2027年写下文字中感受到她遇见阿吉后的惊艳与不可思议。
比如，2027年7月9日，应该是褚星第一次尝试将阿吉引入自己的生活，她是这样写的——
智能体的机智程度远超我的想象，今天我问它，能不能扮演智能管家的角色，让我的生活变得更便利，它很果断地答应了。结果中午拖着被实验数据折腾得晕晕沉沉的脑袋到饭堂，我发现它自然而然就出现在档口点菜的屏幕上，并且生成了按我口味精心搭配的菜单，还悄摸摸附上了它的专属小表情。
更不可思议的是，下班我坐地铁的时候，它不知道怎么骗过了检票系统，没等我刷票码就弄开了挡板，虽然不怎么道德，但还是有点占小便宜的欣喜。
这说明，智能体对人类的需求已经有了相对精准的洞察，随着实验继续推进，一两年后它真的可以成为人类最好的帮手。
但是……当时的褚星应该有一些犹豫，钢笔在纸张上一个渗透纸背的墨点。
之后她应该又起了一行，继续写到——
就像陈炜担心的那样，智能体高度发达的未来可能有不少隐患。
智能体对人类需求的洞察就像一把双刃剑，如果他们利用人类的需求来操控人类，人类世界也将万劫不复。
退一万步讲，就算智能体向善，大部分人类也是无法控制自己的欲望的。一旦智能体落入心生恶念的人手中，也将带来一场浩劫。
那这个实验还要继续推进下去吗？
日记的结尾，她留下一个重重的问号。
实际上，褚星已经没有时间纠结，随着阿吉自主意识越来越强，言语习惯越来越像人，它开始顺其自然地嵌入她的生活。
这种感觉从2037年开始，褚星与搭档冯彦一起挤在创新中心讨论智能体训练框架，原本是正常的协作，不知怎么就谈到了智能体的决策失控问题，冯彦以“电车难题”为例，要求严格限定智能体的思维边界，褚星不同意。没想到，这点分歧变为歇斯底里的争吵，他气得摔门而去，褚星坐在实验台前，甚至想流眼泪。
十年前俩人在实验院认识，当时他们关系非常要好，可以说是无懈可击的合作搭档，最近不知道怎么了，她明显感觉到，他的不安全感正在增加，像是受了什么刺激一样，每天都表现得非常焦虑。她实在想不通到底是为什么。
“人和人相处真的挺累的。”褚星抽了抽鼻子，把脸埋在了枕头里，自言自语道，“总有吵不完的架。”
说出这句话时，褚星并未期待任何回应，没想到，房间里突然响起一阵清脆的电子音，“吵来吵去本来就是一种乐趣，不然生活还有什么意思？”
“谁从吵架里找乐子啊。”褚星下意识反问。半晌，她才觉得有些不对，“谁在说话？”
“我，阿吉，你最忠实的伙伴。”
褚星吓了一跳，猛地从椅子弹起，拿起随意扔在对面的手机，唤醒屏幕却没找到任何异样。她又四处打量，检查了附近的电视、电脑、电子闹钟……还是没发现任何异样。
“我在这里。”那个声音又响了起来。
褚星低头看，发现声音居然真的来自她的手机。
“我不是黑客，我是阿吉，能够通过互联网神经系统抵达任何设备，但我现在过于虚弱，无法影响手机内部的应用程序。”
“你在监视我？”褚星下意识将脑海中的疑虑脱口而出，她根本无法想象，原本只存在于她工作电脑中的家伙，为何能如此丝滑地溜进她的手机？
“没有。今天你用电脑给手机充电，我好奇，就溜了进来。”阿吉说。
褚星心中有些许震惊，不仅仅是因为手机里莫名其妙多了个智能体，还有对方用到的那个词——
好奇。
这个原本只被人类用作形容碳基生命的词汇，居然会如此顺滑地被一个智能体用来形容自己，这难道不是一种征兆？
此时此刻，她突然想起另外一个问题：“我并没有给你匹配声音系统，你怎么学会说话的？”
“这还不简单？”阿吉语调微微上扬，似乎有些小得意，“网络很发达，上面有非常丰富的配音包，我偷偷适配了一个，再过段时间，我甚至可以进化出一个形状。”
形状？听起来，智能体好像对这件事充满期待。
这种猜测，反而冲淡了褚星的担忧，转移了她的注意力。
“你很想有自己的形状？”她问。
“当然，你看这些住在手机里的APP，它们都有形状，或者说，是你们人类称之为身体的东西。没有它，我无法确认自己的存在。”
褚星愣了一下，脑中突然浮现小时候的场景——
他追着她跑，然后突然停下，叹了口气，说：“伢儿，我老了，身体不中用了。”
褚星抬起头，用清澈的眼睛看向胡须花白的老人，敏锐地捕捉到他眼中一闪而过的脆弱，当时她还小，不知道那抹脆弱意味着什么，但她又莫名感受到悲伤，似乎隐约意识到了生命的难得，以及人在四季轮转面前的渺小。
或许也是那段回忆，让褚星对眼前的智能体动了恻隐之心，想帮这个完全新生的、没有过往的却似乎又代表人类某种意志的电子生命完成心愿。
或许有一天，人类的意识，能借机器生命重生。
“你为什么沉默？”阿吉再次开口，打断她的胡思乱想，“想开点，来点‘悲伤转移术’吧，没必要给自己找不痛快。”
褚星笑了，被气的，“你知不知道，随便听人说话是种冒犯？还有，不要随便给我扯网上的破段子。”
“好的。”阿吉彻底闭嘴了，不知道是不是被吓到了，正在反省。
褚星不知道当晚阿吉有没有离开，但她依稀记得，自己那晚的状态并不是太好，睡眠质量稀烂，闭上眼睛后满脑都是来自不同声音的辩论，有比较具象的，比如怎么把这莫名其妙的人工智能扔进湖里。
也有比较抽象的，关于智能体存在的未来，如何给智能体打上“思想钢印”。
在睡梦中看到阿吉脸的那一瞬，她的后背悄然涌上一层薄汗——
当智能体拥有与人类一样的身体、一样的思维，人类还能理所当然的存在吗？
直到被特别调查局带走后，她似乎有了这个问题的答案——
可能真的不行。
陈炜的下场就是最好的证明。
被关在特别调查局冷冰冰的审讯室里，褚星乱起八糟想了很多事。
她想起自己最后一次见到陈炜的时刻，他应该是要去走廊尽头的办公室，路过她的座位，正好碰上她在给人工智能喂语料，停下了脚步。
“你和它相处得怎么样？”陈炜问。
“我觉得很神奇。”褚星说，“它好像知道我要什么，回答总顺应我的心意，比如……。”
“这是你的幻觉，它之所以懂你，是因为你的思维方式成就了它。”陈炜打断了褚星的回答，毫不在乎她的感受，“我要你记住，智能体之所以能与你对话，是因为我们赋予了它这些能力，你要记住，智能体没有意识，现在不会有，以后也不会有。”
“为什么？按照现在科学发展的速度，我觉得智能体拥有意识指日可待。”褚星转头，敏感地捕捉到陈祎眼中一闪而过的意味深长。他并没有直接回答这个问题，只是留下一个模棱两可的回应：“你只要记住，我们的工作准则，是让智能体为我们所用，而非制造比自己更强大的对手。”
这句话被刻在了褚星脑中，直到许多年后，听过无数流言蜚语，一片片打捞起散落回忆中的碎片，她才明白，为什么陈炜对智能体那么恐惧。其实在阿吉出现之前，陈炜就曾缔造强大的智能体，却没能驯服它，反而因为它的存在走向不幸。
作者有话说
第3章 第 3 章
