MarkTechPost· Asif Razzaq·· 5 小时前AI 评分49
斯坦福和加州大学伯克利分校研究人员推出 TokenGate：基于 Token 的门控机制使长上下文预填充速度提升至 11.3 倍
Researchers from Stanford and UC Berkeley Introduce TokenGate: Token-Gated Attention Makes Long-Context Prefill Up to 11.3x Faster
AI 导读
TokenGate 是一个可插入模块，通过训练的 token 剪枝机制使预填充速度提升 1.4x 至 11.3x，且无精度损失。该方法在 Qwen3-1.7B 和 Qwen3.5-2B 模型上测试，支持上下文长度达 128k tokens，代码和检查点已开源至 GitHub。
来源：MarkTechPost · marktechpost.com