AI可解释性研究揭示统计推断误用风险

一项神经科学研究揭示，AI可解释性研究领域存在类似“死鲑鱼”的统计推断误用现象，标准分析方法可能为随机初始化的神经网络生成看似合理的虚假解释。 该研究提出，应将可解释性方法视为统计模型的参数，从计算轨迹中推断，并强调需通过明确的替代计算假设来验证结果以量化不确定性。这一视角突出了可解释性查询的可识别性问题，对理解该领域易出现虚假发现、泛化能力差和高方差具有重要意义。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。