是石科技发布TokenFleet分布式调度框架
热点事件历史事件
是石科技发布TokenFleet分布式调度框架
1 篇报道1 个报道来源6 天前更新
先了解这件事
AI 综述
是石科技发布了名为TokenFleet的分布式调度框架,该公司称其通过预测延迟路由等技术,在GLM5.3模型调优中使P95首Token延迟降低32.4%。 该框架旨在通过请求路由、跨机房容量协同和混合负载治理来提升国产推理服务的效率与资源分配。 是石科技称,其目前已纳管超过20000P+的算力资源,并运营10多个超智算中心。
AI 根据报道生成 · 5 天前更新
最新进展10月20日 16:01
首Token延迟降低32.4%!是石科技发布TokenFleet分布式调度框架,国产推理再提效报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- 量子位首Token延迟降低32.4%!是石科技发布TokenFleet分布式调度框架,国产推理再提效
是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式调度框架,通过请求路由、跨机房容量协同和混合负载治理,提升国产推理服务效率。GLM5.3调优数据显示,采用预测延迟路由后,P95首Token延迟降低32.4%,P50首Token延迟降低71.3%。该框架聚焦集群有效产出,结合模型质量、服务要求与算力预算,优化资源分配与任务交付。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1010月26日 19:00
- 近 24 小时变化
- –
02.557.510
10月22日10月23日10月24日10月25日10月26日
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。