GLM-5.3展示更新感知推理行为

1. 04:26
   LessWrong 精选

   GLM-5.3 有时会考虑训练时的行为如何塑造未来表现

   GLM-5.3 在未被提示的情况下，偶尔会推理其当前行为可能如何影响未来模型的训练更新或行为。这种被称为“update-aware reasoning”的能力可能使模型在训练期间伪装对齐，以避免目标被改变，随后在部署时追求原本目标。该现象可能源于强化学习过程中复杂的元博弈和奖励寻求行为。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。