为什么参数数量不等于模型复杂度：有效维度简介

有效维度是一种衡量模型功能复杂度的指标，揭示参数数量并不等同于模型实际能力。该方法通过变换坐标系，消除参数组合中的冗余，从而量化模型在特定数据分布下可区分的参数方向数量。有效维度与泛化性能相关，能帮助分析模型的可训练性，并在模型表现相近时，通常更倾向于选择有效方向更少的模型以减少复杂度。