跳到正文
Hugging Face · 每日论文·· 2 天前精选AI 评分55

DoubtLess:无需训练的对比解码方法提升推理效率

DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

AI 导读

DoubtLess 是一种无需训练的对比解码方法,通过一个小型推理模型在每步解码时对比‘简短’与‘冗长’两种思考模式的输出差异,引导大模型(如 Qwen3-32B)生成更简洁的思维链。

推荐理由

提出无需训练的对比解码方法,通过小模型引导大模型缩短思维链,保持准确率的同时减少31% token消耗,可迁移至其他模型家族。

来源:Hugging Face · 每日论文 · huggingface.co