研究揭示LLM不确定性与正确性由不同特征编码

UC Riverside研究团队发现，大语言模型的不确定性和正确性由不同的内部特征驱动，而非此前假设的模型自信度与答案准确性相关。通过使用稀疏自编码器工具，他们识别出三类特征，并在不重新训练模型的前提下，通过抑制部分特征使模型准确率提升最高达1.1%，同时减少不确定性达75%。 研究还表明，这些特征可应用于不同问答基准，为开发者提供了一种提升AI可靠性的实用方法。

AI 根据报道生成 · 1 天前更新

还没有足够的连续观测数据，暂不绘制趋势。