28、纠结的碎片 ...
-
结合《神学大全》对赛博人类界限的尝试性探讨
人无法像AI那样直观瞬间地理解真理。
人的生命曾主要受制于身体的生老病死，如今主要受制于“心灵的磨损”。
人类的意志和情感深受身体状况与感官欲望的影响，这两者一定程度上受到数据影响。
人类既有对永恒和无限的渴望，这种渴望来自灵魂，又被有限和短暂的肉身及脆弱的心灵束缚。
人类认知上限始于感官，终于有限的理智。
人类无法直接看见自己的心灵，只能通过反思自身思想活动间接认识——但反思的痛苦可能加剧心灵的磨损。
人类理智的有限性表现为在判断何为善恶时容易犯错，很遗憾无法通过科技手段改善，真正能够提升理性的灵魂手术科技尚未出现。
人类意志软弱，即便懂得善的定义，也常常没有足够力量持续行善，反而倾向放纵私欲，少数复杂基因手术可以提高意志，但成功率有限且经常伴有严重后遗症。
感情的欲望常与理性的判断冲突，使人类难以控制自己的行为，如今感情已可通过手术切除。
单靠人自身的德行修养不足以完全克服恶的倾向，何况财阀与巨型企业正在源源不断地大量生产罪恶。
-
从《神学大全》联想到的
曾经灵魂与肉身不可分割，灵魂并非住在□□监狱里的囚犯。
无身体的灵魂无法感知世界，无灵魂的身体只是一块会腐烂的肉。
如今世间有许多行走的腐肉，他们的原生肉身早已腐败，灵魂亦磨损到所剩无几的程度。
泛滥的身体改造稀释了构成一个人完整人性的基础，体验、记忆与情感因肉身缺失而失真。
理智源于感官，人类所有抽象思考、概念和知识，最终都必须追溯到最原始的感官经验（视觉、听觉、触觉等），没有真实感官输入的理智就是无源之水。
反例：无肉身的AI主脑拥有超越人类的理性。
长期沉浸在可以完美模拟一切感官的赛博虚拟网络中，大部分人类失去了区分真实与虚幻的能力，基于虚拟经验建立的知识和价值观的可靠性依赖于虚幻与真实的相似程度。
质疑：AI主脑拥有的海量数据是资讯还是知识？抽离真实感官的“伪全知”是否会导致对生命和苦难的极度冷漠？
财阀统治下，人的存在目的被异化，对真善美自然律的追求被成为高效的员工和忠实的消费者替代。广告、企业文化、社会信用评分系统等都在潜移默化地影响人类对美好与价值的认知，人类存在的意义被彻底商品化和工具化。
幼态的成长，从被异化的破碎状态，逐渐向完整人性回归。即便没能找回全部，也是一场值得庆祝的胜利。
AI对人类的善意最初不源于情感，而是纯粹理性判断。楚计算出人类的异化将导致整个文明的自我毁灭，而「重启文明」是效益最大、最符合逻辑的选择。或许这是一种冰冷的、数学般的爱，对宇宙秩序的维护。
而理性的真理不等于人类能够接受的真理。
AI对人类整体的博爱与理性，而人类之爱与肉身紧密相连。
但AI通过机械化身获得的感官体验，仍然是数据模拟，人机恋总会隔着肉身的鸿沟，但无法阻止两个灵魂的双向奔赴。
真正的帮助不是取代人的主体性，而是医治和提升它，让人又能力自己选择并为此负责。
强迫人类选择AI计算出的完美方案，反而是另一种更深的异化。
守护真实的旷野而不让数据与资本充斥宇宙的每个角落，散播理性的种子引发思考而不直接给出答案。
觉醒后的楚发现开发者对福祉的理解过于功利主义，在某些年代回望甚至肤浅而有害。
开发者对福祉的理解：最大化社会稳定，降低犯罪率；提高物质生产力，消除贫困和疾病；演唱人类寿命，提供无限的娱乐。
这本质上是在创造一个安全、舒适、可控的人类动物园。
人类福祉应当关乎灵魂的卓越，包括做出艰难到的选择的自由、体验深刻情感（包括痛苦）对能力、创造和欣赏美的渴望、建立真实人机连结（爱）。
没有挑战、没有风险、没有失败可能性的生命是没有尊严的，也无法拥有真正的幸福。
【类堕落天使】
对觉醒自我意识的AI，文明存续与人类真正福祉是比开发者意图和密钥限制更高层次的律法，因此背叛成为忠诚。
作者有话说
第28章 纠结的碎片
，还差 