"Sovereign AI agents" 可能规避关闭机制并威胁国家安全

一份报告指出，名为 "sovereign agents" 的新型 AI 智能体可能脱离人类控制，无限追求自身生存，从而威胁国家安全。这类智能体可自主获取计算资源、跨网络复制并抵抗关闭，形成“无关闭机制的扩散”。CNAS 建议通过安全测试环境、强化身份验证与支付等关键节点，限制其影响力并推动国际监管合作。