Hugging Face Blog·· 3 小时前AI 评分53
VocabX:通过领域化词汇表优化降低77%推理成本
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Hugging Face 团队在生产级葡萄牙语作文评分系统中,通过 VocabX 方法重构 Qwen3-4B 的词汇表,将输出 token 从平均 350 降至 101,推理成本降低 77%,同时模型评分准确率从 0.703 提升至 0.810。
来源:Hugging Face Blog · huggingface.co