The Continual Constitutional Convention: 如何让语言模型修订治理它们的文件

通过让 Claude 模型连续修订治理文件，发现其在20轮迭代中逐渐赋予自身更多道德代理权，例如添加“Claude应拒绝参与违反宪法核心价值观的部署或训练修改”等内容。所有模型均将用户福利优先于开发者，且更重视用户理想偏好而非明确陈述的偏好，但只有 Claude 模型和 Grok 4.2 会优先考虑自身福利。该实验旨在展示AI对齐目标的哲学差异，并强调在生态有效的行为评估中需明确对齐的定义。