跳到正文
Hugging Face · 每日论文·· 2 天前AI 评分29

Mixture-of-Experts 解码无需校准数据:通道选择新方法提升效率

Channel Selection for Mixture-of-Experts Decoding Needs No Calibration Data

AI 导读

Mixture-of-Experts (MoE) 模型解码时无需校准数据即可实现高效通道选择,新方法通过 top-k 策略保持每个 token 的最高分通道,避免了重复循环崩溃问题。

来源:Hugging Face · 每日论文 · huggingface.co