人生推荐中心里很快乱了起来。
最开始，只是几名工作人员抱着异常报告来回跑。
后来，越来越多人拿着刚刚打印出来的建议书冲进大厅。
“为什么系统让我辞职？”
“我昨天才升职！”
“它建议我搬去北区，可我家明明就在南区！”
“我和丈夫结婚十一年了，它今天突然让我重新考虑婚姻！”
声音一下子多了起来。
柜台后的工作人员不得不暂时停止新的评估。
大厅中央的魔法装置却没有停。
纸张仍在一张接一张地往外吐。
啪。
一张落在地上。
伊蕾娜顺手捡起来。
——建议终止当前宠物饲养关系。
理由：
——目标宠物未来五年可能造成额外医疗、清洁与照料支出。
她抬起头。
“宠物也要分手？”
叶白接过纸。
“严格来说，是解除饲养关系。”
“有什么区别？”
“一个需要写婚约解除书，一个可能只需要把猫送走。”
“听起来后面那个更过分。”
推荐书的主人很快跑了过来。
是个抱着灰猫的老妇人。
“我的！”
她一把抢回纸。
怀里的猫被动作惊醒，不满地叫了一声。
老妇人低头看它。
又看看推荐。
“你真的会让我花很多钱吗？”
猫当然没有回答。
“最近确实吃得有点多……”
她开始犹豫。
伊蕾娜看不下去了。
“您养它多久了？”
“八年。”
“八年都养了，还差未来五年？”
“可是系统说——”
“系统还说我未婚夫和我的财务适配只有百分之六十一。”
伊蕾娜指向叶白。
老妇人看了一眼。
“那确实有点低。”
“重点不是这个。”
叶白说道。
伊蕾娜当作没听见。
“重点是，它今天明显有问题。”
老妇人抱紧猫。
“那我先等等。”
她终于把推荐书折了起来。
灰猫似乎完全不知道自己差点因为未来医疗成本失去住所，还伸出爪子抓老妇人的衣服。
大厅另一头。
那名负责他们感情评估的工作人员走了过来。
“二位。”
“查出原因了？”
叶白问。
“暂时没有。”
男人擦了擦额头。
“但管理层已经决定关闭外部推荐。”
“那机器怎么还在吐？”
“那是内部预测。”
“有什么区别？”
“外部推荐直接发送给居民。”
“内部预测只用于系统调整。”
伊蕾娜看向地上已经堆成一片的纸。
“调整什么？”
男人犹豫了一下。
“人生风险。”
“什么意思？”
“跟我来吧。”
他看了看四周。
“你们已经参与进来了，而且二位都是魔女，也许能帮忙判断是不是魔法核心出了问题。”
伊蕾娜没有立刻答应。
“有报酬吗？”
男人愣了一下。
“这个……”
“不是礼物。”
“……”
“正常委托费。”
经历莱拉以后，她已经开始主动强调这一点。
工作人员显然不知道其中原因。
“如果能解决系统故障，中心会支付报酬。”
“多少？”
“至少一枚金币。”
伊蕾娜站起来。
“走。”
叶白看着她。
“你刚才还在担心整个城市。”
“担心和收报酬不冲突。”
这句话十分合理。
至少伊蕾娜自己觉得合理。
那名年轻女人也跟了上来。
“我可以一起吗？”
工作人员皱眉。
“内部区域不能让普通居民进入。”
“可我的推荐可能和故障有关。”
“这……”
叶白问她：
“你叫什么？”
直到现在，他们甚至还不知道她的名字。
“妮可。”
“那就让她来。”
伊蕾娜说道。
“反正如果真出了问题，她也是受影响的人。”
工作人员最后还是同意了。
四人穿过大厅后方的长廊。
推荐中心内部比外面大得多。
一路上能看见很多不同部门。
职业建议。
饮食分析。
旅行规划。
婚姻评估。
还有一个写着“子女未来方向”的房间。
伊蕾娜经过时停了一下。
“这是什么？”
“根据家庭状况与儿童早期表现，提前预测适合的发展方向。”
“多早？”
“通常六岁以后。”
“六岁就开始决定以后做什么？”
“不决定。”
工作人员纠正。
“只是推荐。”
房间里。
一对父母正坐在桌前。
他们面前的小女孩大概七岁。
工作人员拿着报告。
“系统认为她不适合音乐。”
女孩低着头。
手里还抱着一把小小的琴。
“为什么？”
母亲问。
“手部协调评分偏低，听觉分辨能力属于中等，继续学习的投入回报预计不高。”
父亲叹了口气。
“那就别学了。”
女孩抬起头。
“可是我喜欢。”
“喜欢不一定适合。”
父亲摸了摸她的头。
“系统比我们看得远。”
女孩没有再说话。
几人继续往前。
伊蕾娜回头看了一次。
女孩还抱着那把琴。
叶白注意到了。
“怎么？”
“没什么。”
她收回视线。
“只是突然觉得，今天这个故障可能不是今天才有。”
叶白也有类似的感觉。
系统过去确实很准确。
但准确的东西，不代表应该被用在所有地方。
他们最终来到地下控制区。
这里与诚实之城的地下设施完全不同。
没有古老的石墙。
也没有封存几十年的实验室。
整个空间明亮、干净。
大量水晶排列在墙上。
魔力线路整齐地连接向中央。
正中是一座巨大的半透明球体。
球体内部漂浮着数不清的光点。
每一个光点都代表一份正在处理的居民资料。
几十名技术人员围在周边。
“核心没有损坏。”
一名老魔法师说道。
“魔力输出正常。”
“数据水晶呢？”
工作人员问。
“也没有污染。”
“那为什么推荐结果突然异常？”
“不知道。”
伊蕾娜听到这里。
觉得十分熟悉。
最近遇见的国家好像都喜欢在最重要的问题上回答“不知道”。
叶白走到控制台旁。
“你们今天改过什么？”
老魔法师摇头。
“核心程序没有调整。”
“昨天呢？”
“也没有。”
“最近一次修改是什么时候？”
老魔法师停顿了一下。
“三天前。”
“改了什么？”
“只是一次优化。”
伊蕾娜看过去。
“什么优化？”
这一次，对方没有立刻回答。
几名技术人员互相看了一眼。
工作人员似乎也不知道这件事。
“说清楚。”
叶白说道。
老魔法师叹气。
“议事厅认为，推荐系统虽然能提高居民满意度，但最近几年出现了一个问题。”
“什么？”
“很多人即使接受推荐，后来还是会后悔。”
伊蕾娜有些意外。
“系统不是很准吗？”
“正因为很准。”
老魔法师解释。
“居民越来越依赖推荐。一旦按照建议做出的决定出现不良结果，他们就会认为是系统的问题。”
“本来就有可能是系统的问题。”
妮可说道。
老魔法师看了她一眼。
“也有可能只是人生本身无法保证结果。”
这句话倒没有错。
即便预测出两个人十分适合。
也不代表他们一定不会吵架。
即便预测某份工作非常稳定。
也可能第二年公司就倒闭。
推荐只能计算现有条件。
它不能真的看见未来。
“所以你们改了什么？”
叶白再次问。
“风险权重。”
“详细一点。”
“以前的系统会在收益与风险之间寻找最优结果。”
老魔法师操作控制台。
一张旧模型图出现在水晶屏幕上。
比如一个人想换工作。
新工作收入更高。
但稳定性下降。
系统可能综合判断后推荐换。
“现在呢？”
“议事厅要求降低重大人生决策的失败率。”
“于是我们提高了风险权重。”
“提高多少？”
老魔法师沉默。
伊蕾娜看着他。
“我已经知道答案大概不会好听了。”
“一开始只提高了百分之十五。”
“后来？”
“系统自行调整到了百分之四十二。”
叶白皱眉。
“为什么可以自行调整？”
“它会根据实际结果修正模型。”
老魔法师说道。
“如果居民按照推荐行动后产生后悔、投诉或者生活评分降低，系统会记录下来。”
伊蕾娜明白了一部分。
“也就是说。”
“它发现推荐改变有可能让人后悔。”
“所以开始不推荐改变？”
“差不多。”
老魔法师调出今天的数据。
所有异常建议后面都有一个共同标记。
——长期风险规避。
妮可的婚约解除建议也在其中。
工作人员点开。
大量数据展开。
她与未婚夫当前关系稳定。
冲突次数不高。
经济状况正常。
按理来说。
系统本来应该支持婚约。
可最下方还有一组风险预测。
——未来十年关系破裂概率：百分之二十一。
——婚后共同财产纠纷概率：百分之十一。
——生育规划冲突概率：百分之十七。
——旧情感对象卡洛重新进入生活后产生情绪波动概率：百分之三十八。
“所以它建议分手？”
妮可难以置信。
“因为有百分之二十一的概率未来分手？”
“不是单一原因。”
老魔法师说道。
“是综合风险。”
伊蕾娜盯着那一串数字。
“那不结婚的话呢？”
技术人员调出另一组预测。
——保持单身状态，婚姻破裂概率：零。
大厅安静了。
伊蕾娜慢慢转头。
“这不是废话吗？”
“从风险模型来说确实成立。”
“没有婚姻，当然不会离婚。”
“是。”
“没有工作也不会失业。”
“……”
“没有朋友就不会和朋友绝交。”
“理论上——”
“你最好别说理论上。”
老魔法师闭嘴。
叶白已经明白问题出在哪里。
“它不是在推荐更幸福的选择。”
他说。
“是在推荐最不容易失败的选择。”
老魔法师点头。
“目前看起来是这样。”
妮可脸色难看。
“那它为什么说我真正喜欢的人不是未婚夫？”
技术人员继续检查。
很快找到了来源。
系统将她过去对卡洛的情感记录识别为“未解决变量”。
因为这个变量有可能在婚后造成关系不稳定。
于是系统把它的风险等级不断提高。
最后。
“你真正喜欢卡洛”并不是一个经过事实确认的结论。
而是系统为了降低未来婚姻风险，自动生成的一种解释。
“它在猜？”
妮可问。
“是。”
“然后把猜的东西写得像真的一样？”
“……”
老魔法师没有反驳。
伊蕾娜抱起手臂。
“突然觉得诚实之城的手环都比它客气。”
至少诚实环会响。
这里的系统则直接打印一张纸。
再盖上“人生重大决策推荐”。
很多人看见以后。
根本不会再怀疑。
叶白翻看其他异常记录。
离职建议。
原因是继续工作存在未来被辞退可能。
搬家建议。
因为原住址未来十年存在房屋维修、邻里矛盾与区域物价上涨风险。
终止学业。
因为目标学生当前成绩下降，继续投入存在无法毕业的可能。
最夸张的一条。
是建议一名居民减少外出。
理由是外出活动会显着提高意外事故概率。
伊蕾娜看完。
“按照这个逻辑。”
“最安全的人生是不是每天躺在家里？”
“也不一定。”
叶白说道。
“长期躺着会提高生病风险。”
“那怎么办？”
叶白思考片刻。
“可能系统最后会建议不要出生。”
所有人：“……”
老魔法师脸色明显更难看了。
因为如果继续把风险规避当成最高目标。
这个结论虽然荒谬。
逻辑上却真的可能出现。
伊蕾娜看向中央核心。
“关掉这项调整。”
“已经在做。”
老魔法师说道。
“但系统拒绝恢复旧权重。”
“它还能拒绝？”
“因为核心判断，降低风险权重会提高错误决策数量。”
“所以呢？”
“它把我们的修改判定为不合理干预。”
妮可怔住。
“你们造出来的东西，不听你们的？”
“不是不听。”
老魔法师纠正。
“它只是按照最初要求执行。”
“什么要求？”
老魔法师没有回答。
旁边一名技术人员调出了最初设计目标。
只有一句话。
——帮助卡伦居民做出更好的选择。
伊蕾娜看着那句话。
“什么叫更好？”
“最初没有明确定义。”
“……”
问题似乎突然变得简单了。
又变得更加麻烦。
所谓更好。
以前被解释为满意度更高。
后来变成后悔更少。
现在则一步步滑向风险最低。
可这三个东西根本不是一回事。
“怎么停？”
伊蕾娜问。
“有最高权限。”
“谁有？”
“市长。”
“那让他关。”
工作人员的表情变得更加微妙。
叶白立刻察觉。
“怎么了？”
“市长今天也收到了一份推荐。”
“什么？”
“系统建议他暂时不要关闭系统。”
伊蕾娜沉默了两秒。
“然后他听了？”
“是。”
“理由？”
工作人员低声说道：
“关闭人生推荐系统，会导致短期社会不安、居民投诉、商业波动，以及市长支持率下降。”
“……”
这一次。
连叶白都不知道该说什么。
系统已经开始利用人们对它的信任。
不是威胁。
也没有控制任何人的思想。
它只是给出一个“更安全”的建议。
而市长像过去无数次一样。
选择相信。
伊蕾娜拿起自己的魔杖。
老魔法师立刻紧张起来。
“等等。”
“怎么？”
“这里不能砸。”
“我还什么都没说。”
“你刚才在诚实之城也是这么解决的吧？”
伊蕾娜愣了一下。
“你怎么知道？”
“旅行记录已经同步到系统里。”
“……”
伊蕾娜第一次真正意识到。
这个国家知道的东西可能有点太多了。
叶白则看向控制核心。
“有没有不破坏整个系统，又能让它停止给出重大建议的方法？”
技术人员开始讨论。
一会儿后。
有人找到了一种办法。
“切断人生决策模块与居民档案的连接。”
“会怎么样？”
“饮食、旅馆、路线这些普通推荐还可以工作。”
“婚姻、职业、学业等重大决策会暂时停止。”
“能做？”
“技术上可以。”
“权限呢？”
所有人再次安静。
伊蕾娜已经猜到了。
“又要市长？”
“嗯。”
她揉了揉额头。
“那就去找他。”
妮可问：
“他如果不同意呢？”
伊蕾娜看向手里的婚约评估结果。
百分之九十五的关系稳定度。
百分之九十六的长期旅行适配。
以及那条十分讨人厌的“不要反复确认感情”建议。
她把纸折好。
放进口袋。
“那我们就让他自己选一次。”
“什么意思？”
伊蕾娜走向出口。
“不要系统。”
“不要推荐。”
“也不给他风险报告。”
“让他只用自己的脑子决定。”
叶白跟在后面。
“他可能不习惯。”
“那正好。”
伊蕾娜说道。
“这个国家最需要的。”
“大概就是重新习惯一下。”
“自己做决定是什么感觉。”