Together AI·· 25 天前AI 评分39
Together AI 在 NVIDIA Vera Rubin NVL72 上部署 ThunderKittens 2.0 GEMM 内核
To Infinity and Beyond: ThunderKittens Now on NVIDIA Vera Rubin NVL72!
AI 导读
Together AI 在 NVIDIA Vera Rubin NVL72 平台上部署了 ThunderKittens 2.0 GEMM 内核,实现 NVFP4 和 FP8 矩阵乘法运算,但性能仅达到理论峰值的 42.1% 和 44.4%。
来源:Together AI · together.ai