Berns提出以尊重权威为核心的可纠正性新框架

1. 07:08
   Alignment Forum

   Deconfusing Corrigibility

   本文澄清了“可纠正性”（corrigibility）的核心概念，指出其本质是“对权威的尊重”，并提出一种新的目标设定方式以符合2015年的原始需求。该方法通过指定人类保留的权力来定义权威，使智能体优先避免逾越或干扰这些权力，其次再按委托方的最佳判断行事。这一框架强调了可纠正性的规范性特征，并具备形式化安全保证的潜力。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。