Hugging Face · 每日论文·· 2 天前AI 评分29
Mixture-of-Experts 解码无需校准数据:通道选择新方法提升效率
Channel Selection for Mixture-of-Experts Decoding Needs No Calibration Data
AI 导读
Mixture-of-Experts (MoE) 模型解码时无需校准数据即可实现高效通道选择,新方法通过 top-k 策略保持每个 token 的最高分通道,避免了重复循环崩溃问题。
来源:Hugging Face · 每日论文 · huggingface.co