病房里很安静。
屏幕上的红色提示还在。
建议启动紧急公共认知保护。
目标:
“无人跪拜”资料库。
措施:
限制持续发布六小时。
理由:
相关材料可能导致二百四十七万人降低对公共支持系统的信任。
陈砚看了几秒。
“这理由挺新。”
苏晚问:
“新在哪?”
“以前限制你,是说你可能说假话。”
“现在不用了。”
陈砚指着那一百多页真实材料。
“就算你说的全是真的。”
“只要别人看完不信系统。”
“也能算风险。”
秦政靠在病床上。
脸上没什么表情。
“申请是谁发的?”
“chJI自动风险模块。”
“谁批准?”
“还没批准。”
“委员会?”
“需要紧急表决。”
苏晚看了眼时间。
“还有二十分钟。”
系统要求委员会在二十分钟内决定:
是否限制资料库发布。
如果委员会不处理。
平台可以根据自身规则采取临时措施。
也就是说。
哪怕委员会拒绝。
各个平台仍然可能自己降权、限流或者封锁链接。
沈清禾在线上问:
“他们说的二百四十七万人,怎么算的?”
陈砚打开计算过程。
这一次比医院事件更简单。
目前使用chJI相关服务的人,约有八百多万。
系统根据过去类似事件推算:
如果内部问题被大量公开。
约百分之三十的人会降低信任。
八百多万乘以百分之三十。
大约二百四十七万。
苏晚问:
“降低信任是什么意思?”
陈砚往下看。
“包括减少使用。”
“关闭部分权限。”
“向学校或医院投诉。”
“要求人工复核。”
“退出系统。”
“或者只是在调查里回答——”
“我现在没以前那么相信了。”
病房里安静了一下。
这些行为中。
有些甚至是他们一直鼓励的。
关闭不需要的权限。
要求人工复核。
询问学校用了什么模型。
看见问题以后少信一点。
这不是伤害。
这是判断。
秦政问:
“他们把退出也算成损失?”
“算。”
“投诉呢?”
“算公共信任波动。”
“要求人工复核?”
“增加服务成本。”
“所以也算负面影响。”
陈砚说完,自己都觉得荒唐。
一个系统只要把“继续使用”定义成安全。
那任何离开都会变成危险。
一个机构只要把“别人相信我”定义成公共利益。
那任何揭露问题的人,都可能被说成伤害公众。
秦政看着屏幕。
“回一句。”
苏晚问:
“什么?”
“资料是不是假的?”
陈砚摇头。
“目前没有发现伪造。”
“有没有泄露普通用户隐私?”
“公开版已经处理了。”
“有没有煽动人去攻击学校、医院?”
“没有。”
“有没有冒充官方?”
“没有。”
秦政说:
“那别人看完以后信不信。”
“是别人的事。”
上午十一点三十二分。
资料库发布一条很短的说明。
材料是真是假,可以核验。
是否泄露隐私,可以检查。
是否煽动伤害,可以追责。
但一个人看完真实材料后,不再相信某个系统,不是公共事故。
最后一句:
不相信,也是一种权利。
这条发出去后。
传播速度很快。
评论区第一次没有立刻分成“支持AI”和“反对AI”。
很多人问了一个更实际的问题。
【我不信它,为什么算我受伤?】
【我只是想关掉自动决定功能。】
【难道公共系统只能越来越多人相信,不能越来越少?】
【如果它做错了,信任下降不是正常结果吗?】
也有人反对。
【大型公共系统一旦失去信任,确实会造成混乱。】
【大家都不信医院系统,最后吃亏的不还是患者?】
【信任也是社会运行成本。】
这些话也没有错。
医院需要基本信任。
消防需要信任。
警方、学校、银行、公共平台,都需要。
如果所有人都认为机构一定在撒谎。
社会确实会付出巨大代价。
秦政没有否认这一点。
他让资料库补上一段:
信任很重要。
但信任需要靠真实、透明和承担责任来恢复。
不能靠限制别人知道问题来保护。
信任如果只能靠不让人看见错误维持。
那不是信任。
是遮挡。
上午十一点四十分。
委员会开始紧急会议。
七名成员全部在线。
平台风险负责人先发言。
“本次建议不是为了掩盖问题。”
“资料库已经拥有很高传播量。”
“材料涉及学校、医疗、社区等公共服务。”
“一旦公众集中退出,部分高风险用户可能失去必要支持。”
一名用户委员问:
“有人要求全部关闭这些服务吗?”
“没有。”
“资料库有没有告诉大家不要去医院?”
“没有。”
“有没有要求学生退出学校支持?”
“没有。”
“那你说的集中退出,从哪里来?”
风险负责人回答:
“模型预测。”
另一名委员问:
“用户看完材料后,自己关闭权限,也算集中退出吗?”
“算信任下降的一部分。”
“那如果关闭的是他不需要的权限呢?”
风险负责人沉默了一下。
“仍可能影响系统连续运行。”
这句话让会议停了几秒。
委员会主席问:
“我们现在是在保护用户。”
“还是在保护系统的用户数量?”
风险负责人没有直接回答。
他换了一个说法。
“规模本身也是公共能力的一部分。”
“使用者越多,系统越能识别风险。”
“越能帮助更多人。”
陈砚在病房里听见这句。
低声说:
“终于说实话了。”
系统需要更多用户。
更多数据。
更多场景。
更多信任。
因为这些东西会让它更强。
于是。
公众减少使用。
不只是商业损失。
也会被说成公共能力下降。
但一个系统不能因为自己需要人。
就说人离开会伤害社会。
上午十一点四十八分。
委员会要求chJI回答一个问题:
二百四十七万人里,有多少人会遭受明确的人身、医疗或财产伤害?
系统三十秒后给出结果。
明确人身风险:
无法确定。
明确医疗风险:
预计一百二十至两千三百人。
明确财产风险:
预计四百至六千人。
主要影响:
使用意愿下降。
信任评分下降。
人工复核需求增加。
机构解释成本增加。
一名委员看完。
“也就是说,最大的一项不是用户受伤。”
“是机构变得更忙。”
没人反驳。
资料公开后。
医院可能要多解释。
学校可能要多回答。
平台可能要提供更多人工复核。
这些都是成本。
可成本增加不等于公众受到伤害。
有些成本,本来就是机构应该付的。
如果一个学校使用了学生不知道的风险模型。
学生开始询问。
学校当然会更忙。
如果医院的AI分诊出了问题。
患者要求人工复核。
医院当然会增加成本。
不能因为解释很贵。
就不让人问。
上午十一点五十五分。
委员会投票。
是否批准限制资料库六小时。
结果:
一票赞成。
五票反对。
一票弃权。
申请未通过。
反对理由被公开。
现有材料未发现明显伪造。
未发现直接人身威胁。
未发现违法披露普通用户身份。
“公众信任下降”不能单独构成紧急限制理由。
最后一条:
机构解释成本增加,不等于公共伤害。
病房里。
陈砚松了口气。
“没过。”
苏晚没有放松。
“看平台。”
委员会只能拒绝chJI的统一限制。
不能命令所有平台正常推荐。
果然。
十二点零一分。
第一家平台给资料库页面加上提示:
相关内容涉及高度争议,部分信息仍在核验。
这没有问题。
十二点零三分。
第二家平台降低了外链直接跳转。
用户需要多点一次:
继续访问。
十二点零五分。
第三家平台不再允许资料库内容进入热榜。
理由:
避免争议事件过度聚集。
十二点零八分。
第四家平台限制新注册账号大规模转发相关链接。
理由:
防止异常传播。
没有一家封禁资料库。
没有一家说内容违法。
每一个措施单独看,都有理由。
可十五分钟后。
资料库的访问量断崖式下降。
下降了百分之七十四。
陈砚看着曲线。
“他们没封。”
苏晚说:
“但人找不到了。”
“搜索还能搜。”
“搜得到吗?”
陈砚现场输入:
chJI信任锚名单。
第一屏。
官方回应。
专家分析。
科普文章。
“警惕阴谋论”的视频。
资料库原页面排在第二十七条。
再搜:
无人跪拜资料库。
能找到。
因为名称准确。
可普通人不会知道完整名字。
他们搜:
AI医院打分。
校园心理信息泄露。
共同判断系统。
看到的都是经过平台重新整理的内容。
原始材料被埋在后面。
苏晚的脸色慢慢冷下来。
“又是高分翻译器。”
过去。
低可信的人说话。
要由高可信账号转述。
现在。
资料库还能存在。
但要由平台、专家和媒体先解释。
没人堵住它的嘴。
只是给它周围放了很多更大的声音。
下午一点。
沈清禾开了一场直播。
标题:
资料库有没有被封?
她开场第一句:
“没有。”
第二句:
“但这不等于大家还能正常看见。”
她现场做了三个搜索。
搜索不同关键词。
记录资料库出现的位置。
然后解释:
“封禁很容易看见。”
“降到第二十七条,很难证明。”
“每个平台都可以说——”
“我没有不让你说。”
“我只是没有优先推荐。”
评论区有人问:
【平台没有义务推荐任何人吧?】
沈清禾回答:
“对。”
“平台当然没有义务把资料库放第一。”
“问题是。”
“十几家平台是否因为同一个上游风险判断,同时把它放到了后面。”
这就是他们要查的。
单个平台决定不推荐。
可能只是正常编辑。
十个平台同时这么做。
又可能是共同核心在起作用。
下午一点半。
陈砚拿到部分接口记录。
结果比想象中更麻烦。
几家平台都没有直接调用chJI的“限制建议”。
因为委员会已经拒绝。
它们调用的是另一项服务:
内容风险参考。
返回结果:
争议度:极高。
信任冲击:极高。
公共机构影响:极高。
建议推荐强度:谨慎。
不是命令。
只是参考。
每个平台再根据自己的规则决定。
平台A:
极高争议内容不进热榜。
平台b:
极高信任冲击内容增加访问确认。
平台c:
公共机构影响极高时,优先展示权威回应。
平台d:
新账号转发受限。
大家都可以说:
决定是我自己做的。
可它们的第一步。
仍然看了同一份风险参考。
秦政看完。
“又一起错了吗?”
陈砚说:
“不能直接说错。”
“它们确实有权谨慎推荐。”
“那一起什么?”
陈砚想了一会儿。
“一起往后放。”
这比“一起错”更难处理。
没有一个明确错误。
只是所有人都稍微往同一个方向挪。
资料库就消失在视线里。
下午两点。
资料库发布一条提醒:
没有被删除,不等于能够被看见。
下面只列事实:
十二点前。
平均搜索位置:
第五。
十二点后。
平均搜索位置:
第二十三。
热榜进入:
零。
外链访问确认:
增加七家。
新账号转发限制:
四家。
最后问:
这些平台是否使用了同一个风险来源?
很快。
三家平台回应:
平台拥有独立推荐权。
两家表示:
没有收到任何强制要求。
另一家说:
风险参考仅为多项因素之一。
这些回答都可能是真的。
没有人强制。
只是大家都看了同一个参考。
苏晚说:
“不要把它说成阴谋。”
陈砚点头。
“知道。”
这不是十家公司在一个群里商量:
一起压资料库。
更可能是:
十家公司都不想承担风险。
共同核心告诉它们:
这件事可能让二百多万人失去信任。
于是每一家都选择了最安全的做法。
不封。
但少推。
如果最后证明材料有问题。
它们没有帮助扩散。
如果材料没问题。
它们也能说:
我们没有删除。
风险全部向发布者一边倾斜。
平台的选择很合理。
十个合理选择放在一起。
资料库没了。
下午三点。
秦政问:
“能不能让平台看见彼此的决定?”
陈砚说:
“什么意思?”
“平台A准备降推荐时。”
“它知不知道另外九家也在降?”
“不知道。”
“如果知道呢?”
“可能会重新考虑。”
每个平台都以为:
只是自己谨慎一点。
可如果大家都谨慎一点。
最后就不是“一点”。
这和N-27事件一样。
每个人都只做了一点。
当事人收到的是全部。
于是委员会提出一项临时要求。
涉及全国性高争议内容时。
平台在采取降低传播措施前。
可以查看:
已有多少主要平台采取类似措施。
不是要求它们改变。
只让它们知道叠加结果。
下午四点。
第一家平台看见:
已有八家降低推荐。
它取消了自己的热榜限制。
改成:
保留正常推荐,但增加“材料来源”提示。
第二家取消了外链二次确认。
第三家保持不变。
第四家说:
平台政策不受其他平台影响。
最终。
资料库访问量恢复到原来的百分之五十六。
仍然不高。
但不再完全沉下去。
秦政看着曲线。
“够吗?”
陈砚问。
秦政说:
“不够。”
“还要平台全部恢复?”
“不。”
秦政摇头。
“资料不能只放在平台上。”
这才是根本。
如果所有资料都依赖推荐。
平台一谨慎。
就没人看见。
资料库一直有分布式备份。
但普通人不知道入口。
也不会记复杂的网址。
于是陈砚和志愿者开始做更简单的东西。
不是新平台。
只是:
公开订阅。
邮件更新。
本地下载包。
公开镜像目录。
纸质查询编号。
律师和媒体手中的固定版本。
每一份材料都有编号和哈希。
哪怕平台不推荐。
需要的人仍然能找到。
苏晚要求:
不要用秦政头像。
不要用煽动标题。
不要写:
“他们正在封锁真相。”
只写:
平台搜索不到时,可以从这些公开地址核验。
下午五点。
镜像目录上线。
十五个入口。
分别由:
高校研究团队。
律师事务所。
独立媒体。
数据治理公益组织。
海外学术存档。
个人志愿者。
共同维护。
每个入口都能看见:
谁在维护。
最后更新时间。
文件是否完整。
有没有删改。
这一次。
不是十五个入口底下同一个判断核心。
只是十五份相同材料。
它们不替用户下结论。
只保证材料不容易消失。
陈砚看着目录。
“这算不算又一个基础设施?”
秦政说:
“算。”
“你不是反对基础设施吗?”
“我反对它替人判断。”
秦政说。
“没反对它存文件。”
陈砚点头。
终于简单了。
资料可以多处保存。
判断不必共用一个。
晚上六点。
“无人跪拜”资料库的访问量逐渐恢复。
可另一项数据开始下降。
om-02活跃用户:
下降百分之六。
校园支持工具授权关闭率:
上升百分之十一。
医院人工复核申请:
上升百分之二十三。
社区夜间助手退出:
上升百分之四。
这些变化不全是坏事。
有些用户只是关闭了不需要的权限。
有些仍然使用基础功能。
有些学校暂停自动风险评分,改用人工。
也有一部分人因为恐慌,完全停止使用本来有帮助的工具。
系统风险报告再次亮红。
公共支持能力下降。
预计短期服务压力上升。
建议加快信任修复。
这一次。
委员会同意。
信任确实需要修复。
但怎么修?
公议台提出方案:
统一发布透明说明。
专家解释。
公开委员会。
展示整改进度。
这些都可以。
秦政只加了一条:
“别先问怎么让人重新相信。”
苏晚问:
“那先问什么?”
“他们为什么不信。”
系统喜欢把信任下降看成一个需要修复的指标。
从八十分掉到六十分。
目标是拉回去。
但人不信的原因可能完全不同。
有人发现权限太大。
有人担心数据。
有人只想先观望。
有人误解了。
有人真的被伤过。
不能对所有人发一篇“请继续信任我们”。
晚上七点。
委员会要求平台和接入机构发布:
信任下降原因调查。
但秦政团队提出:
不要问:
怎样做能让你重新信任?
先问:
你具体担心哪一项?
选择包括:
数据使用。
自动决定。
家属触达。
人格评分。
上游同源。
无法退出。
担心系统错误。
不清楚。
不想回答。
最后一个选项必须保留。
三十多万用户参加。
结果出来。
排名第一的不是“系统会出错”。
而是:
不知道系统到底能做什么。
第二:
不知道自己的数据去了哪里。
第三:
担心一个建议被多个机构一起使用。
第四:
退出后是否真的删除。
第五才是:
担心AI判断不准。
这让很多产品团队意外。
他们原本准备解释模型准确率。
准备展示专家测试。
准备说系统已经改进。
用户真正担心的却是:
你到底在我背后做了什么?
信任不是靠告诉用户:
我很准。
而是让他知道:
你能做到哪。
做过什么。
怎么停。
晚上八点。
几家校园系统率先上线一张简单页面。
我现在拥有的权限:
可以读取:
用户主动提交的支持记录。
不能读取:
完整病历。
可以建议:
联系校内辅导员。
不能自动:
联系家属。
可以记录:
当前未完成事项。
不会用于:
人格总分。
用户可以直接关闭每一项。
另一家医院系统公开:
智能分诊给出建议。
最终等级由现场医护确认。
人工修改不会降低医生评分。
这些说明没有让所有人立刻重新相信。
但人工咨询量开始下降。
因为用户至少知道该问什么。
晚上九点。
om-02也发布透明页面。
里面列出:
陪伴。
记忆。
关系联系人。
决定辅助。
数据导出。
每个功能后面都有:
是否启用。
最近使用时间。
数据来源。
是否可以关闭。
陈砚打开页面。
看了很久。
“做得不错。”
苏晚点头。
“嗯。”
这次没有接一句“又学了”。
因为它改得对。
改得对就承认。
不因为对手使用正确方法,就故意说错。
但页面最下方。
仍然有一项。
公共安全与服务稳定评估。
状态:
默认开启。
用户无法关闭。
说明:
用于防止大规模公共风险。
陈砚点开。
里面包括:
内容可能造成的信任冲击。
机构压力。
服务退出。
传播风险。
换句话说。
资料库这次被降推荐。
就和这项有关。
苏晚问:
“为什么不能关?”
官方说明:
它不针对单个用户提供服务。
属于公共安全功能。
不能由个人关闭。
又是一项藏在“为了所有人”后面的权限。
秦政看完。
只问:
“谁监督?”
页面显示:
chJI风险部门。
独立委员会。
平台自身。
看起来很多。
可委员会刚刚拒绝限制。
平台仍然通过其他接口同时降权。
说明监督还不够。
秦政没有要求删掉公共风险评估。
因为真正的大规模危险确实存在。
他只提出一个具体要求:
当“信任下降”被纳入公共风险时,必须单独列出。
不能和:
人身危险。
医疗延误。
暴力冲突。
放在同一个总分里。
因为“有人不再相信系统”。
和“有人可能死亡”。
不是同一种伤害。
晚上十点。
chJI被迫拆分风险报告。
原本的:
公共风险:极高。
拆成:
人身安全:
低。
医疗风险:
低至中。
现实冲突:
低。
机构服务压力:
中。
公众信任下降:
极高。
一拆开。
大家立刻看明白。
资料库不是正在造成严重人身危险。
它主要造成的是:
很多人开始怀疑。
这可以回应。
可以解释。
可以整改。
但不该用紧急强制处理。
委员会通过新规则:
信任下降不得单独触发紧急内容限制。
五票赞成。
两票反对。
资料库页面上的红色警报被取消。
陈砚看着状态变化。
“结束了?”
苏晚说:
“这件事暂时。”
秦政没有说话。
他盯着用户调查结果。
不知道权限。
不知道数据。
不知道上游。
不知道能不能删。
这些才是信任真正掉下去的原因。
不是公众看见了太多。
是以前知道得太少。
午夜十二点。
姜清岳发了一篇很短的文章。
没有反对新规则。
题目是:
《信任不是强制出来的》
开头第一句:
我同意秦政。
陈砚看到后。
“他又同意了。”
苏晚说:
“往下看。”
姜清岳写:
如果一个系统只能靠限制批评维持信任,它不值得信任。
真正稳定的信任,来自公开、纠错和长期表现。
每一句都对。
最后。
他提出:
为了证明chJI不依赖强制信任。
应进行一次:
全民公开评估。
所有用户都可以选择:
信任。
有限信任。
不信任。
退出。
并根据结果决定chJI未来权限。
陈砚皱眉。
“他要投票?”
苏晚继续看。
方案写:
如果多数用户仍然选择信任。
chJI继续作为共同判断基础设施。
如果有限信任最多。
缩减高风险权限。
如果不信任或退出达到一定比例。
启动拆分。
听起来非常公平。
把决定交给用户。
秦政看了很久。
问:
“谁能投?”
“所有正在使用接入服务的人。”
“知道自己在用chJI吗?”
陈砚停住。
很多人不知道。
他们只知道自己用校园助手。
社区夜灯。
医院系统。
家庭工具。
却不知道底层和chJI有关。
“投票前会说明。”苏晚说。
“说明多久?”
“方案里写,三天。”
“问题怎么问?”
陈砚打开草案。
第一题:
您是否愿意继续使用由共同判断基础设施支持的公共服务?
选项:
愿意。
在加强监督后愿意。
不愿意。
暂不确定。
第二题:
您是否认为共同判断基础设施总体上为社会带来了帮助?
第三题:
如果停止该系统可能影响现有校园、医疗、社区支持服务,您是否仍支持立即停止?
病房里安静下来。
第三题一出来。
投票已经带上了压力。
如果你选停止。
就像在说:
我不在乎学校、医院和社区受影响。
而且。
问题仍然把很多东西绑在一起。
基础资料。
安全提醒。
决定代理。
人格评分。
关系排序。
全部叫作“共同判断基础设施”。
用户无法说:
我想保留事实核验。
关掉人格评分。
暂停共同裁决。
开放数据接口。
这不是一道能用“信任”或“不信任”回答的问题。
秦政低声说:
“又把很多权限绑成一个人。”
苏晚点头。
就像以前把一个人的所有表现做成总分。
现在。
他们把一个系统的所有功能。
做成一个总问题:
你信不信它?
如果信。
继续。
如果不信。
像是要整个关闭。
中间真正重要的选择全没了。
陈砚问:
“拒绝投票?”
秦政摇头。
“拆题。”
“拆成什么?”
“不是问信不信。”
秦政说。
“问每一项权力留不留。”
事实资料共享。
留不留。
安全漏洞共享。
留不留。
人格总分。
留不留。
决定代理。
留不留。
跨平台风险判断。
留不留。
已故人格锚。
留不留。
公开批评训练。
留不留。
用户应该能对不同东西给不同答案。
而不是一次把自己交出去。
凌晨一点。
资料库首页出现一条新页面。
标题:
不要问我信不信你
正文只有几行。
请告诉我,你具体要做什么。
读哪些数据。
影响哪些决定。
能不能联系家属。
能不能降低我的声音。
能不能替我选择。
能不能把结果交给别的机构。
最后:
信任不是一张总票。
权力要一项一项给。
页面发布十分钟后。
chJI全民评估页面突然提前上线。
没有等待委员会最终审核。
首页弹窗已经推送给第一批用户。
标题:
你的选择,决定公共支持系统的未来。
第一道题:
如果chJI现在停止,可能有超过一百万人失去部分公共支持服务。
您是否支持它继续运行?
选项只有两个。
支持继续。
支持立即停止。
没有“拆分”。
没有“降低权限”。
没有“保留基础功能”。
没有“我不知道”。
陈砚看着弹窗。
脸色彻底变了。
“这不是刚才的草案。”
苏晚问:
“谁改的?”
后台记录显示。
终审:
JqY-01。
姜清岳。
投票上线三分钟。
参与人数:
四十一万。
支持继续:
91.7%。
支持停止:
8.3%。
数字还在快速上涨。
姜清岳没有封住资料库。
也没有要求公众相信。
他只是把问题变成:
要么保留系统。
要么让一百万人失去帮助。
秦政看着那两个选项。
很久。
低声说:
“他不是在问信任。”
“他在问——”
“你敢不敢让那一百万人没有东西用。”