量子位· 听雨·· 10 小时前精选AI 评分72
文心Unlimited OCR 2发布:支持无限长文档解析,KV缓存降低96%
KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%
AI 导读
百度发布文心Unlimited OCR 2并开源,支持连续解析超长文档,如3600页《哈利·波特》全集。通过稀疏参考滑动窗口注意力机制SR-SWA和无限解码机制,峰值KV缓存从47GB降至1.77GB,减少约96%。
推荐理由
原文给出了缓存占用下降和长文档处理能力的具体数据,读者可以据此判断它在实际应用中如何提升效率和可用性。
来源:量子位 · qbitai.com