RadixArk团队优化Muse Spark Open在TPU v7上的推理性能
热点事件持续更新
RadixArk团队优化Muse Spark Open在TPU v7上的推理性能
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
RadixArk团队称，通过使用SGLang-TorchTPU后端，在单个TPU v7主机（含四块芯片）上部署并优化了Meta的Muse Spark Open模型，实现了解码速度的显著提升。 该模型是一个8160亿参数的专家混合模型，每token激活约420亿参数。
AI 根据报道生成 · 2 小时前更新
最新进展11月11日 00:45
Optimizing Muse Spark Open on TPU v7 with SGLang-TorchTPU报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- PyTorch 博客Optimizing Muse Spark Open on TPU v7 with SGLang-TorchTPU
Meta 的 Muse Spark Open 模型（816B 参数，每 token 激活约 42B 参数）在单个 TPU v7 主机（含四块芯片）上通过 SGLang-TorchTPU 后端实现优化，解码速度提升显著。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。