跳到正文
Alignment Forum· berns·· 6 小时前AI 评分21

Deconfusing Corrigibility

Deconfusing Corrigibility

AI 导读

本文澄清了“可纠正性”(corrigibility)的核心概念,指出其本质是“对权威的尊重”,并提出一种新的目标设定方式以符合2015年的原始需求。该方法通过指定人类保留的权力来定义权威,使智能体优先避免逾越或干扰这些权力,其次再按委托方的最佳判断行事。这一框架强调了可纠正性的规范性特征,并具备形式化安全保证的潜力。

来源:Alignment Forum · alignmentforum.org