OpenAI 提出两项可监控性补充指标

事件综述根据 1 篇报道整理，10月22日更新

OpenAI 在 Alignment 研究博客中提出两项指标，用来补充现有的模型可监控性评估指标 g-mean²：配对匹配可监控性在共享任务实例上比较模型，以减少不同模型有效样本子集差异带来的混淆；后控制风险指标模拟监控器拒绝输出后的部署场景，估算系统仍产生不良输出的概率。 OpenAI 称，g-mean² 无法反映监控器在部署中作为控制手段的实际风险，博客给出了干预评估的悲观下界推导。OpenAI 同时说明，后控制风险指标所设的部署方案是假设性的，OpenAI 并未以这种方式部署其当前模型。

综述由模型根据报道生成，细节以各篇原文为准。