Hugging Face · 每日论文·· 7 天前AI 评分31
On-Policy Distillation of Sequence-Level Power Distribution：无需搜索的强化方法
Sharpen Without Search: On-Policy Distillation of Sequence-Level Power Distribution
AI 导读
一种新的模型训练方法 On-Policy Power Distillation（OPPD）通过生成候选答案并使用冻结教师模型的幂分布进行加权，实现单次生成的推理准确率提升。
来源：Hugging Face · 每日论文 · huggingface.co