Hacker News · AI· Corbenic·· 2 小时前精选AI 评分70
Galahad 发布支持 5000 万 token 上下文窗口的 AI 记忆层
Show HN: Try Free Long-Term Memory for AI 50M-Token Window
AI 导读
Galahad 是一个 AI 记忆层，支持 50M-token 上下文窗口，通过保存模型的 KV 缓存和文档内容，避免重复计算，GPU 内存保持在 34.1 GB 不变。
推荐理由
原文给出了安装方式、性能数据和兼容框架，读者可以据此判断它如何降低大模型推理成本并扩展上下文窗口。
来源：Hacker News · AI · github.com