跳到正文
MarkTechPost· Michal Sutter·· 4 小时前AI 评分28

Zyphra ZYFA:AMD MI355X 上的 FP8 FlashAttention,最高提速 1.76 倍

Zyphra ZYFA: FP8 FlashAttention for AMD MI355X, Up to 1.76x Faster

AI 导读

Zyphra 发布 ZYFA,为 AMD Instinct MI355X GPU 提供 FP8 和 BF16 的预填充注意力内核,实测性能最高比 AMD 默认内核库 AITER 快 1.76 倍。

来源:MarkTechPost · marktechpost.com