跳到正文
热点事件持续更新

斯坦福与伯克利研究人员发布TokenGate,提升长上下文预填充速度

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

斯坦福大学与加州大学伯克利分校的研究人员发布了一个名为TokenGate的可插入模块,通过训练的token剪枝机制,在Qwen3-1.7B与Qwen3.5-2B模型上,将长上下文预填充速度提升了1.4至11.3倍,且未造成精度损失。 该模块支持上下文长度达128k tokens,相关代码与检查点已在GitHub开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月25日
  1. MarkTechPost
    斯坦福和加州大学伯克利分校研究人员推出 TokenGate:基于 Token 的门控机制使长上下文预填充速度提升至 11.3 倍

    TokenGate 是一个可插入模块,通过训练的 token 剪枝机制使预填充速度提升 1.4x 至 11.3x,且无精度损失。该方法在 Qwen3-1.7B 和 Qwen3.5-2B 模型上测试,支持上下文长度达 128k tokens,代码和检查点已开源至 GitHub。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。