MarkTechPost· Michal Sutter·· 4 小时前AI 评分28
Zyphra ZYFA:AMD MI355X 上的 FP8 FlashAttention,最高提速 1.76 倍
Zyphra ZYFA: FP8 FlashAttention for AMD MI355X, Up to 1.76x Faster
AI 导读
Zyphra 发布 ZYFA,为 AMD Instinct MI355X GPU 提供 FP8 和 BF16 的预填充注意力内核,实测性能最高比 AMD 默认内核库 AITER 快 1.76 倍。
来源:MarkTechPost · marktechpost.com