斯坦福与伯克利研究人员发布TokenGate,提升长上下文预填充速度
热点事件持续更新
斯坦福与伯克利研究人员发布TokenGate,提升长上下文预填充速度
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
斯坦福大学与加州大学伯克利分校的研究人员发布了一个名为TokenGate的可插入模块,通过训练的token剪枝机制,在Qwen3-1.7B与Qwen3.5-2B模型上,将长上下文预填充速度提升了1.4至11.3倍,且未造成精度损失。 该模块支持上下文长度达128k tokens,相关代码与检查点已在GitHub开源。
AI 根据报道生成 · 2 小时前更新
最新进展10月25日 20:12
斯坦福和加州大学伯克利分校研究人员推出 TokenGate:基于 Token 的门控机制使长上下文预填充速度提升至 11.3 倍报道时间线
沿着报道,了解事件的不同侧面。
10月25日
- MarkTechPost斯坦福和加州大学伯克利分校研究人员推出 TokenGate:基于 Token 的门控机制使长上下文预填充速度提升至 11.3 倍
TokenGate 是一个可插入模块,通过训练的 token 剪枝机制使预填充速度提升 1.4x 至 11.3x,且无精度损失。该方法在 Qwen3-1.7B 和 Qwen3.5-2B 模型上测试,支持上下文长度达 128k tokens,代码和检查点已开源至 GitHub。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。