研究称语言模型训练垃圾数据可致认知退化

德克萨斯农工大学的研究人员发表论文称，当大语言模型的训练数据中包含大量低质量、高互动性的“垃圾内容”时，模型在推理、记忆等测试中会表现出认知退化现象，例如跳过思考步骤直接生成答案。 研究人员基于内容的互动水平和写作质量来识别垃圾帖子，并在模型完成训练后，让其执行测试推理、记忆、伦理规范和人格的基准测试。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。