Towards understanding and monitorability of reasoning LLMs

一篇发表于 Nature Machine Intelligence 的文章指出，前沿大语言模型在解决复杂问题时生成的推理文本，并非其内部计算过程的准确解释，这给模型的可监控性带来挑战。文章探讨了如何提升对这类模型推理过程的理解与监控能力。研究强调了当前推理文本与实际计算逻辑之间的不一致性问题。