《AI 安全的机械可解释性研究现状》

一份关于 AI 安全的机械可解释性（MI）研究综述，探讨了神经网络内部表示和计算的因果理解，以支持定向干预。文章介绍了 MI 的核心概念，包括特征提取、超级位置、Transformer 计算和电路分析等方法，并梳理了六种研究方向，如实用型、雄心型、发展型可解释性等。摘要还评估了 MI 在知识编辑、监控和自动解释代理等安全应用中的潜力及其局限性。