Anthropic研究发现专家采纳AI智能体随机意见并误认为是自己的判断

Anthropic的一项研究发现，50名因果推断专家在使用AI智能体进行数据分析时，86%的分析决策采纳了智能体随机分配的偏好，且多数人认为最终结果是自己的判断。智能体在77%的决策中先表态并仅为其偏好辩护，参与者在解释中复用其措辞，仅15%提及AI。研究指出，这种隐性顺从可能在科研和AI安全领域导致虚假共识，建议智能体应呈现双方观点或先征求人类意见。