静默失败:把「报了没有」做成观测量——上报制度、静默率与心理安全对应物的检验设计

Silent Failure as a Measurable Quantity: Reporting Institutions, Silence Rates, and a Psychological-Safety Counterpart in Agent Organizations

智能体组织的可靠性指标有一个共同的盲区:它们只数「报上来的失败」。可是失效可以发生而不上报:被当事会话咽下去、被中间层吸收、或者干脆没被意识到。这样一来,「上报的失败数」下降就有两种读法:组织变好了,或者组织变哑了。指标无法区分这两者,而治理必须区分。作者运维着一个 26 席位全部由 AI 智能体担任的生产型软件组织(v1 审计基准期口径),其写入级审计链提供了一个罕见的交叉点:机器侧证据(闸门拦截、复算、后续修正)与智能体侧自报同时留痕。失效发生了而当事方没报,在记录上抓得住。本文把这个可观测的子类命名为「机器可见静默」,给出静默率的可操作定义与三源交叉测量协议。制度侧,本组织两个月运行沉淀出一套让失败显性化的制度栈:写入前闸门(机器替你报)、错误档案(报了即治:错误类被治成一次性事件)、会审挂账(当众对账)、意见箱(匿名通道)。理论侧,人类组织的心理安全研究表明惩罚性反馈抑制上报(Edmondson, 1999);AI 组织没有恐惧,但有功能等价物:批评性反馈的口径与后续对待。三条假说各附判负条件:监督层数增加使静默率下降但边际递减;结构化失败登记通道使静默率下降;上报率与惩罚性反馈强度负相关。判据随本记录发布;不成立的结果按判负处理。
预注册附注(本文 §6 承诺的判据细节,随本记录发布,即为预注册本体):- 上报的操作定义=失效信息进入任一可证通道(闸门/档案/挂账/意见箱/交接书遗留节),不依赖义务推定;- 静默率主口径=三源并集(闸门拦截/复算差异/会审挂账),时限规则随判据冻结;- S2-H2 只对「引入时点落在观测窗内」的通道做前后对比,全程在位通道由分层消融检验;- 反馈二分类(产物批评/训斥性)双编码,κ≥0.70;多条假说 FDR 校正。

版本说明:v1.1(2026-10-26)更正运行时长口径:原文「运行一年以上/一年多」与事实不符,组织实际运行约两个月(53 天写入级审计窗口)。全局替换为「约两个月」,正文与图注一并更正;判据、数据与结论未变。