跳到正文
Together AI·· 25 天前AI 评分39

Together AI 在 NVIDIA Vera Rubin NVL72 上部署 ThunderKittens 2.0 GEMM 内核

To Infinity and Beyond: ThunderKittens Now on NVIDIA Vera Rubin NVL72!

AI 导读

Together AI 在 NVIDIA Vera Rubin NVL72 平台上部署了 ThunderKittens 2.0 GEMM 内核,实现 NVFP4 和 FP8 矩阵乘法运算,但性能仅达到理论峰值的 42.1% 和 44.4%。

来源:Together AI · together.ai