研究团队提出通过测试时训练压缩KV缓存的方法
热点事件观察中
研究团队提出通过测试时训练压缩KV缓存的方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究团队提出了一种名为Latent Compaction的方法，通过测试时训练学习压缩文档特定的键值（KV）缓存，在RULER数据集上以32倍压缩率实现了96.7%的准确率，优于KVZip+的40.0%。 该方法在训练过程中保持模型权重冻结，仅使用关于文档的通用提示，不依赖下游问题或答案，且可跨模型规模和家族迁移。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 04:00
Latent Compaction with Test-Time Training报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Hugging Face · 每日论文Latent Compaction with Test-Time Training
一种名为 Latent Compaction 的方法通过测试时训练学习压缩文档特定的键值（KV）缓存，实现在保持信息完整性的前提下大幅降低内存使用和注意力成本。该方法在 RULER 数据集上以 32 倍压缩率实现了 96.7% 的准确率，优于 KVZip+ 的 40.0%。训练过程中模型权重保持冻结，仅使用关于文档的通用提示，不依赖下游问题或答案，且方法可跨模型规模和家族迁移。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。