研究者提出CriticOPD与ActionOPD改进策略蒸馏
热点事件观察中
研究者提出CriticOPD与ActionOPD改进策略蒸馏
2 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
研究者提出了两种改进策略蒸馏（On-Policy Distillation, OPD）的方法。CriticOPD通过教师模型批判错误输出来恢复OPD的可靠性，在Qwen3学生模型和六个数学推理基准测试中表现优于传统OPD。 另一项工作ActionOPD则是一种基于语义动作的智能体知识蒸馏方法，它通过采样学生模型遇到的状态并奖励与教师模型动作的语义一致性来实现行为对齐，据称在四个分布外基准测试中提升了Qwen3-4B和Qwen3-8B的性能。
AI 根据报道生成 · 5 小时前更新
最新进展10月14日 04:00
通过批判引导的策略优化 On-Policy Distillation 恢复可靠监督事件进展
2 个进展
- 10月14日 04:00 · 1 篇报道提出ActionOPD动作级在线策略蒸馏方法Hugging Face · 每日论文：ActionOPD: Distilling Decisions, Not Tokens
- 10月14日 04:00 · 1 篇报道提出CriticOPD方法改进策略蒸馏Hugging Face · 每日论文：通过批判引导的策略优化 On-Policy Distillation 恢复可靠监督
报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Hugging Face · 每日论文通过批判引导的策略优化 On-Policy Distillation 恢复可靠监督
一种名为 CriticOPD 的方法通过教师模型对错误输出的批判来恢复 On-Policy Distillation 的可靠性。该方法在 Qwen3 学生模型和六个数学推理基准测试中表现优于传统 OPD，尤其在竞赛问题上提升显著。教师模型在评分时将批判信息作为特权信息，而学生模型仅使用修正后的输出进行训练。
- Hugging Face · 每日论文ActionOPD: Distilling Decisions, Not Tokens
ActionOPD 是一种基于语义动作的智能体知识蒸馏方法，通过在学生模型遇到的状态中采样动作并根据与教师模型动作的语义一致性进行奖励，实现行为对齐。该方法在不依赖教师模型推理内容或 token 概率的情况下，使 Qwen3-4B 和 Qwen3-8B 在四个分布外基准测试中平均提升 3.3-6.9 个百分点。
本事件热度走势
- 可比范围当前
- 12
- 可比范围峰值
- 1410月15日 12:00
- 近 24 小时变化
- –
051015
11:0012:0013:0014:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。