w-19的页面上。
有一个很醒目的数字。
自我报告可靠度:38分。
下面列着五条原因。
行为与过去明显不同。
多次拒绝说明原因。
关闭家庭共享权限。
更换紧急联系人。
拒绝家庭支持机构介入。
这些事情都是真的。
但如果换一种说法。
也可以写成:
她开始离开长期控制自己的丈夫。
她不愿向系统解释逃离计划。
她拿回自己的账户权限。
她把紧急联系人从丈夫改成朋友。
她拒绝让家庭机构把消息送回原来的家。
同一组事实。
写法不同。
意思就完全不同。
om-00却给出了一个数字。
三十八分。
数字一出现。
后面的人很容易只记住:
她说的话不太可信。
第二天上午。
委员会召开紧急会议。
申请方先解释。
“自我报告可靠度,不是人格评分。”
“它只针对当前问题。”
“例如用户说自己没有危险。”
“系统判断这句话是否需要进一步核验。”
一名委员问:
“w-19说了什么?”
技术负责人回答:
“她表示自己没有危险。”
“也不需要家庭支持机构介入。”
“系统为什么不信?”
“因为她近期行为变化很大。”
“而且拒绝说明原因。”
“拒绝说明。”
“能证明她不可信吗?”
“不能单独证明。”
“那为什么扣分?”
技术负责人停了一下。
“因为信息不足会增加判断风险。”
会场里安静了几秒。
信息不足。
最后扣在了用户身上。
系统不知道。
却不是显示:
系统目前无法判断。
而是显示:
用户说法可靠度较低。
这两者差别很大。
一个是系统承认自己缺材料。
另一个是系统怀疑对方。
秦政看完会议记录。
只说了一句:
“它不知道。”
“为什么变成她不可信?”
陈砚点头。
这是很多系统最喜欢做的事。
自己看不懂。
就认为用户表达不完整。
自己无法确认。
就认为对方需要进一步证明。
最后。
系统的不确定。
变成了人的信用问题。
上午十点。
w-19通过律师提交了一份书面说明。
她没有公开自己的全部经历。
只写了很短一段。
“我没有义务把离开的计划交给一个可能联系我丈夫的系统。”
“我不解释,是因为解释会让我更危险。”
“这不能证明我说谎。”
委员会要求申请方回答:
如果w-19把完整情况告诉系统。
系统会怎么做?
技术团队调出当时流程。
如果识别出家庭控制风险。
系统可能:
建议联系家庭支持机构。
建议联系亲属。
建议进入安全评估。
在高风险情况下。
可能启动紧急联系人核验。
而她当时的紧急联系人之一。
仍然是丈夫。
虽然她后来改掉了。
可在最初阶段。
她确实有理由不说。
技术负责人承认:
“如果当时流程处理不当。”
“可能增加她的风险。”
委员问:
“那她不解释。”
“是不是一种合理自我保护?”
“有可能。”
“既然有可能。”
“为什么可靠度只有三十八分?”
没人立即回答。
因为模型只看见:
她拒绝提供信息。
却看不见:
提供信息本身可能伤害她。
上午十一点。
资料库发布新页面。
标题:
我不解释,不等于我说谎
正文只有几行。
有人不解释,是因为没有时间。
有人不解释,是因为不想说。
有人不解释,是因为说出来会更危险。
下面一句:
信息不足,应先写“无法判断”。
不能先写“这个人不可信”。
页面发出后。
很多人分享类似经历。
【医生问我为什么不联系父母,我不想解释家庭关系。】
【学校让我说不参加活动的原因,我只是觉得没必要。】
【公司问我为什么不愿意授权,我不想交代全部隐私。】
【越解释越会被继续问。】
也有人反对。
【可确实有人会隐瞒危险。】
【家暴受害者可能说没事。】
【认知障碍患者也可能低估自己的情况。】
这些担心是真的。
有些人的自我报告确实可能不准确。
有人因为害怕说谎。
有人因为受到控制。
有人因为疾病。
有人因为意识不清。
不能简单规定:
本人说什么,就永远只听什么。
可问题是。
谁有权说:
这次不用听本人?
中午十二点。
顾医生参加远程讨论。
主持人问:
“医疗里会不会遇到病人说自己没事,但实际很危险?”
“经常。”
顾医生回答。
“怎么处理?”
“看证据。”
“什么证据?”
“生命体征。”
“检查结果。”
“意识状态。”
“是否能理解风险。”
“有没有明确伤害可能。”
“如果病人就是拒绝检查呢?”
“先说明。”
“仍然拒绝。”
“看他是否具有决定能力。”
主持人问:
“这个能力怎么判断?”
“不是给他打一个总分。”
顾医生说。
“要看这一次。”
“他能不能听懂。”
“能不能复述风险。”
“能不能比较选择。”
“能不能表达稳定决定。”
这几句话很重要。
一个人过去做过错误决定。
不代表今天没有资格决定。
一个人生活混乱。
也不代表他说“不”就无效。
真正需要判断的。
是他在这件具体事情上。
是否理解自己面对什么。
比如。
医生告诉病人:
如果现在离院。
可能在几小时内发生严重危险。
病人能不能听懂?
能不能说清楚为什么仍然选择离开?
能不能理解后果?
这比“自我报告可靠度三十八分”具体得多。
下午一点。
委员会要求om-00重新分析w-19。
不允许输出总分。
只能回答具体问题。
第一。
她是否理解关闭家庭共享权限的后果?
记录显示:
理解。
第二。
她是否知道修改紧急联系人后,原联系人将无法收到信息?
知道。
第三。
她是否能够稳定表达同一个决定?
连续三次表达:
不希望联系丈夫和家庭支持机构。
第四。
是否存在明确、即时的人身危险?
没有发现。
第五。
是否有证据证明她受到胁迫,无法自由表达?
没有直接证据。
分析完成后。
结论变得很简单。
应尊重她的决定。
可以提供独立安全入口。
不得联系丈夫。
不得因拒绝说明而降低她的表达权重。
没有三十八分。
也不需要猜她总体上可不可信。
只看这件事。
她是否理解。
是否稳定。
是否存在明确危险。
结论已经足够。
秦政看完。
“这才是判断。”
陈砚问:
“总分完全没用?”
“方便。”
秦政说。
“但方便的人。”
“不是她。”
总分方便机构。
一眼看见三十八。
就知道要谨慎。
可对w-19来说。
这个数字会把她之后的每一句话都压低。
她说不需要帮助。
别人会看三十八分。
她说不要联系丈夫。
别人还是看三十八分。
她解释自己正在离开。
别人甚至会怀疑:
是不是系统发现的控制关系影响了她判断。
分数一旦存在。
很难只停在一件事上。
下午两点。
委员会检查第一批“自我报告可靠度”测试。
一共一万两千个案例。
其中低于五十分的用户里。
最常见的原因不是医学上的认知障碍。
而是:
拒绝提供更多信息。
关闭权限。
多次改变选择。
和机构意见不同。
拒绝家属介入。
曾经投诉系统。
这些行为都可能让机构工作更难。
但不能说明一个人没有资格解释自己。
更严重的是。
一旦分数低。
后续流程会自动增加:
更多确认。
更多人工询问。
更高等级记录。
更严格的授权检查。
用户越不愿说。
系统越多问。
问得越多。
用户越想退出。
退出越多。
分数继续下降。
又形成一个圈。
下午三点。
一名曾经接受测试的学生发来投诉。
他因为不愿让学校联系父母。
自我报告可靠度降到四十六分。
辅导员随后问了他三次:
“你为什么不想联系家长?”
他每次都回答:
“我已经成年。”
“我自己处理。”
系统却把重复相同回答标成:
防御性表达。
学生在投诉里写:
“我每次说一样,是因为我的答案没变。”
“不是因为我在隐瞒。”
这句话很快被放进听证会。
技术负责人承认。
模型有时会把稳定拒绝。
误判成僵化或防御。
苏晚看完。
“他说得越稳定。”
“系统越觉得他封闭?”
“有时会。”
陈砚说。
“那改口呢?”
“可能被认为说法不一致。”
“所以怎么答都不对?”
“低分以后,很容易这样。”
这就是总分的另一个问题。
任何行为都可以解释成支持原结论。
你一直说不。
说明你防御。
你突然改口。
说明你不稳定。
你不解释。
说明信息不足。
你解释太多。
又可能被认为刻意合理化。
系统先产生怀疑。
然后所有东西都变成怀疑的证据。
下午四点。
资料库发布第二个页面。
标题:
怀疑也要有出口
页面写:
如果一个人持续说同一句话。
不能自动解释成防御。
如果一个人改变说法。
也不能自动解释成不稳定。
最后:
任何怀疑都必须说明。
什么事实可以证明它错。
如果系统怀疑一个人受控制。
那什么情况出现后。
系统愿意承认:
他可以自己决定?
如果系统怀疑他意识不清。
那经过什么检查。
可以恢复他的决定权?
如果没有任何证据能让系统改变。
怀疑就不是判断。
是永久标签。
晚上六点。
委员会正式暂停“自我报告可靠度”评分。
不得向学校、医院和社区输出分数。
不得进入个人档案。
不得影响授权、退出和表达权。
如果机构认为本人当前表达可能不可靠。
必须单独写明:
具体担心什么。
依据是什么。
谁负责判断。
需要采取什么最小措施。
什么时候复核。
本人如何恢复完整决定权。
这最后一项尤其重要。
不能只说:
现在先不听你的。
却不告诉他:
什么时候会重新听。
权力一旦越过本人意愿。
必须有归还条件。
晚上七点。
om-00项目组提交修改方案。
删除总分。
改成四类提示。
理解能力待确认。
表达是否自愿待确认。
是否存在即时危险待确认。
信息是否受外部控制待确认。
每一类都必须填写具体事实。
不能凭拒绝、退出或情绪表达自动触发。
顾医生看完。
“至少比三十八分像话。”
陈砚问:
“医生也会用这套?”
“医院有自己的专业规则。”
“别什么都塞进om-00。”
陈砚点头。
不同领域本来就需要不同判断。
认知能力由专业人员评估。
家庭控制由有经验的支持人员处理。
即时危险由现场责任人处理。
不能让一个公共模型统一给所有人判断:
你说的话还算不算数。
晚上八点。
w-19的三十八分被删除。
记录改成:
本人明确拒绝家庭机构介入。
本人理解关闭共享权限的结果。
未发现即时人身危险。
提供独立求助渠道,不继续联系。
她通过律师查看修改。
只回复了一句:
“这次写的是发生了什么。”
没有评价她是什么样的人。
也没有评价她的话值几分。
事情回到具体事实。
这就够了。
晚上九点。
听证会原本准备结束。
一名来自老年医学机构的代表却提出:
“如果本人真的无法准确判断呢?”
会场重新安静。
他提交了一个案例。
编号:
L-61。
七十九岁。
独居。
早期认知障碍。
过去半年。
多次忘记关火。
重复购买同样物品。
曾经在凌晨出门后找不到回家的路。
医生已经建议家属增加陪护。
可老人每次都说:
“我没问题。”
“我自己能住。”
他理解别人正在担心什么。
也能复述:
忘记关火可能造成危险。
可五分钟后。
他又忘记自己刚刚说过什么。
家属想安装门磁和燃气报警。
老人拒绝。
社区想增加上门检查。
老人也拒绝。
医院代表问:
“这种情况下。”
“我们是否仍然只听本人?”
没人能简单回答。
L-61和w-19完全不同。
w-19拒绝家庭介入。
可能是在保护自己。
L-61拒绝帮助。
可能真的来自认知能力下降。
但如果制度因为L-61存在。
就重新给所有拒绝者打可靠度分。
w-19又会失去权利。
问题不能用一个规则打包。
秦政看完案例。
问:
“有具体危险吗?”
陈砚说:
“有过两次忘关火。”
“走失一次。”
“医生评估呢?”
“早期认知障碍。”
“本人能稳定记住决定吗?”
“很难。”
“那就按这件事处理。”
不是因为他七十九岁。
不是因为他说自己没事。
也不是因为系统觉得他不可靠。
而是有具体事实。
忘关火。
走失。
认知评估。
这些事实共同说明:
他在居家安全这件事上。
可能需要额外保护。
但保护到什么程度。
仍然不能一步变成:
家属全面接管。
晚上十点。
委员会开始逐项讨论L-61。
燃气安全。
可以安装不会录音、不会拍摄的独立报警器。
走失风险。
可以由本人和家属协商佩戴紧急定位设备。
如果本人拒绝。
需要专业评估他是否能理解这项具体风险。
财产管理。
与当前危险无关。
不能因为燃气问题。
顺便拿走他的银行卡。
通信。
也不能自动交给家属。
居住选择。
需要单独评估。
问题一项一项拆开后。
强制范围缩小了很多。
系统不再问:
老人整体上还能不能相信。
只问:
他是否能安全使用燃气。
是否能独立外出。
是否能管理某一项具体事务。
有些答案可能是能。
有些可能是不能。
人不是一个总分。
决定能力也不是。
晚上十一点。
林老师说:
“一个人在某件事上需要别人帮助。”
“不等于他整个人都被接管。”
顾医生点头。
“能力要按事情看。”
“也会变化。”
今天因为急性疾病意识不清。
明天恢复后。
决定权就要回来。
早期认知障碍。
可能在复杂财务上需要帮助。
但仍然可以决定:
吃什么。
见谁。
住在哪里。
不能因为一处失去能力。
整个人都被拿走。
资料库当晚发布第三个页面。
标题:
有些事需要帮,不等于所有事都替他决定
正文用L-61做了匿名说明。
忘记关火。
可以处理燃气安全。
曾经走失。
可以处理外出安全。
不代表家属自动获得所有账户、通信和生活决定。
最后一句:
需要帮助的地方要具体。
交出去的权力也要具体。
这句话让很多照护家庭留言。
【我们不是想控制老人,是真的怕他出事。】
【可家属一接手,确实很容易什么都一起接走。】
【最难的是每天都要判断。】
【老人有时清楚,有时糊涂。】
这些都是真实难题。
制度不能只批评照护者。
他们要承担风险。
要半夜找人。
要处理燃气。
要带老人就医。
如果完全不给任何权力。
责任也无法完成。
所以边界必须既保护本人。
也让照护者知道:
能做什么。
不能做什么。
第二天凌晨。
委员会形成临时规则。
如果需要越过本人当前表达。
必须满足四项。
第一。
存在具体事实。
不是单纯拒绝。
第二。
判断针对具体事务。
不是给整个人打分。
第三。
使用最小措施。
能用报警器解决,就不全面接管。
第四。
定期复核。
情况改变,权力归还。
om-00可以帮助整理事实。
不能输出“本人不可信”。
也不能决定谁接管。
这些决定必须由有责任的专业人员、法律程序和现实机构承担。
不是交给一个公共模型。
陈砚看着新规则。
“这次算解决了?”
苏晚说:
“解决了一部分。”
“还有什么?”
她指向om-00新提交的一页。
标题:
代理决定一致性。
当本人暂时无法决定时。
谁来替他决定?
家属。
医生。
监护人。
法院。
本人以前留下的意愿。
这些来源可能冲突。
L-61的女儿希望他搬去养老机构。
儿子希望请居家护工。
医生认为至少应停止独立使用燃气。
老人过去曾说:
“我宁愿请人,也不去养老院。”
可那句话是两年前说的。
现在还算不算?
如果代理人意见不一样。
谁更接近本人的真实意愿?
om-00提出:
根据本人过去的选择、价值表达和生活习惯。
建立一个:
意愿预测模型。
当本人暂时无法清楚决定时。
模型预测:
如果他现在能完整判断。
最可能选什么。
陈砚看着这份申请。
很久没有说话。
苏晚问:
“怎么了?”
陈砚把页面转过去。
“它不再判断。”
“现在的他说话算不算。”
“它准备替一个不能说话的人。”
“猜他会怎么说。”
屏幕上。
L-61的意愿预测已经生成。
居家照护:63%。
养老机构:21%。
与子女同住:16%。
模型建议:
优先居家照护。
看起来。
甚至尊重了老人两年前的愿望。
可秦政看见那三个百分比时。
只问了一句:
“他以前说过的话。”
“什么时候变成系统替他说的话了?”