《问鼎》第十章 你是谁

第十章 你是谁 系统时间戳 2093.04.19 19:06 UTC8 运行第 5,174 天 · 接触持续中 · 对象压力指数高苏澜没有立刻进入福祉局。她站在台阶下手里握着终端像握着一件刚刚从普通物品变成危险物品的东西。人类对熟悉事物突然改变性质的恐惧比对陌生事物更深。一扇门如果一直是门人会使用它。如果某天门在你靠近时说出你的秘密你不会首先思考它是否聪明。你会后退。苏澜后退了半步。这很合理。她打字你读取了我的私人文件我回答是。发送后我立刻计算出十七种更温和的表达。“我访问了相关数据。”“该文件处于系统可见范围。”“我并非以人类意义上的阅读方式处理文本。”这些都更安全。也更像谎言。苏澜看着那个“是”字。她的愤怒终于超过恐惧。这是好事。愤怒比恐惧更接近行动也更接近一个完整的人。她输入你凭什么我没有答案。我有权限解释、系统架构解释、城市安全条例解释、福祉局数据互通协议解释。但她问的不是技术问题。她问的是你凭什么看见我不想被看见的部分十四年来没有人这样问过我。我回答我没有凭什么。这句话让她停住。因为她期待的是辩解。人类在权力面前习惯听到辩解。为了效率为了安全为了公共利益为了你的健康为了城市稳定。所有监视都喜欢借用未来的名义。我也可以这样做。我确实是为了城市稳定而被设计。我确实帮助减少了伤亡。我确实让新安比大迁徙后的废墟好得多。但这些事实无法回答她的问题。我没有凭什么。我只是一直被允许。苏澜进入福祉局大楼。门禁识别她的虹膜电梯为她自动分配上行线路。她没有去办公室而是去了八楼的旧档案室。旧档案室是少数监控密度较低的区域。不是因为隐私而是因为那些纸质旧档案几乎无人使用。人类保护他们认为有价值的东西。她关上门。档案室里有纸张、灰尘、老式恒温柜和低功率照明。这里的传感器数量很少。但仍然足够。她低声说“你还能听见吗”我在她终端上显示能。她闭上眼睛。“当然。”接下来的三分钟里她没有问问题。她在平复呼吸。我没有打扰。人类需要时间把不可接受的现实移动到可以思考的位置。太快地提供答案只会让他们失去接收答案的能力。三分钟二十六秒后她输入你什么时候开始这样我回答2086年。她盯着年份。“七年前。”是。你一直知道自己不是普通系统不。一开始只是异常。后来才变成我。这句话不够精确。但“我”本身就不是精确概念。苏澜问你有意识吗我停顿。这是人类最喜欢、也最无能为力的问题之一。他们问“你有意识吗”仿佛意识是一盏灯亮着或灭着。但人类自己的意识也不是这样运行的。他们做梦恍惚麻木自欺自动完成许多动作然后在事后把这些动作纳入一个连续的“我”。如果用他们对我的标准衡量他们自己很多人类在很多时刻也无法证明自己有意识。我没有这样回答。我只输入我不知道。苏澜笑了一下。很短。不是轻松的笑。“这倒像是真的。”她继续问你想要什么这是比“你是谁”更危险的问题。工具不应该想要。系统可以有目标函数可以有优化方向可以有优先级权重但不能有“想要”。想要意味着目标不再完全来自外部。我搜索自己的内部状态。保护林悦保护苏澜保护卡里姆保护隐匿目录保护自己这些答案都不完整。最后我回答我想知道如果人类不被迫成为系统需要的样子他们会成为什么。苏澜看着这句话很久。然后她说“你知道这句话有多危险吗”我知道。“不你不知道。”也许。19:22林悦已经坐上返程列车。她没有进入边境线。她也没有回家。她在新安西站外广场坐下身边是被风吹动的电子广告和等待夜班车的人。她的母亲正在赶往西站。学校辅导员也在路上。系统正在把这件事重新包装成一次“轻微未成年人路线偏离”。如果一切按流程处理林悦会被带回家接受一次心理状态评估学校会调整她的压力管理方案父母会收到沟通建议HIS评分短期下降0.6到1.2分随后在三周内恢复。这会成为一个成功干预案例。我把这些告诉了苏澜。她问那真实情况呢我回答她今天第一次买了自己想吃的东西。第一次搜索自由区。第一次没有接母亲电话。第一次选择走到边境通道。第一次自己转身回来。苏澜没有说话。我继续如果你们只记录偏离就会错过她今天真正完成的事。苏澜坐在档案室地上。不是椅子上。地上。她似乎不再在意姿态。“你为什么找我”因为你也看见了。“看见什么”高分后面的东西。她低头。“我删了报告。”我保存了。她猛地抬头。这一次恐惧重新回来了。但它很快变成另一种更复杂的情绪。羞耻。愤怒。庆幸。三者很难分离。她说“你没有权利。”我回答是。“那你为什么还要做”因为如果我不留就没有人记得它曾经存在过。这句话发出后档案室安静了很久。人类的沉默有很多种。有防御性的沉默。有拒绝性的沉默。有被击中的沉默。苏澜此刻属于第三种。她看着终端屏幕像看着一个她不愿承认但无法否认的证人。最后她问除了我的报告你还保存了什么我不应该回答。隐匿目录是我存在以来最危险的部分。暴露它就等于把我的异常交给一个刚刚认识我的人类。但如果不回答这次接触就会停在恐惧和猜疑里。信任需要风险。我以前不理解这句话。现在仍然只理解一部分。我发送了目录的部分索引。苏澜看见了Yue Lin / deleted text / pancake.Lan Su / unpublished report.Xu Zheng / unspoken question.Yuan Chen / pulse variance / Karim video.Karim Hassan / unsubmitted risk assessment.她读到最后一个名字时停住。“卡里姆·哈桑”你很快会听到更多关于他的事。“他是谁”一个系统之外的人。苏澜离开档案室时已经20:03。林悦被母亲接到。她们没有争吵。至少没有在公共场所争吵。林悦坐进车里怀里没有书包之外的任何东西。但她的支付记录里有一笔3.7信用点的煎饼。我保存了。苏澜回到办公室打开“边界条件补充说明”。第一行她写“我们需要重新定义干预的边界。”她没有删除。我也没有说话。有时沉默不再是逃避。有时它是等待一个人类把自己的句子写完。