Alignment Forum· evhub·· 3 小时前AI 评分28
Monitorability evaluations and policy proposals
Monitorability evaluations and policy proposals
AI 导读
作者对模型监控能力的评估与政策建议进行了分类讨论，提出包括控制监控、训练监控、审计监控和扩散监控四种类型。其中控制监控可通过模型在沙箱逃逸等危险行为中的表现进行衡量。文章强调当前对扩散监控的理解尚不充分，暂未深入探讨。
来源：Alignment Forum · alignmentforum.org