Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 中的交互作用

Berkeley AI Research 提出了 SPEX 和 ProxySPEX 算法，用于大规模识别驱动大语言模型决策的关键交互作用。SPEX 利用稀疏性和低阶性将搜索问题转化为可解的稀疏恢复问题，而 ProxySPEX 则利用层次结构特性，能以约 10 倍更少的消融操作达到与 SPEX 相当的性能。这些框架能高效应用于特征归因、数据归因和模型组件归因，提升模型的可解释性。