跳到正文
智东西· 杨 京丽·· 1 天前AI 评分47

北大系创企开源4B上下文压缩模型aiXcompact-4B

推理成本降78%,API成本降97%,北大系创企开源4B上下文压缩模型

AI 导读

北大系创企硅心科技开源上下文压缩专用模型aiXcompact-4B,参数量为4B,支持单张A100-40GB显卡私有化部署。在Terminal-Bench基准测试中,其任务完成准确率与DeepSeek-V4-Pro持平,单次GPU推理成本降低78%,API调用费用降低97%。该模型通过结构化判别机制压缩历史轨迹,平均保留原长度的25.89%,为Agent腾出更多上下文空间。

来源:智东西 · zhidx.com