ZYFA：在 AMD MI355X 上快速且準確的 FP8 注意力核心

Zyphra Research 發布了 ZYFA，這是針對 AMD MI355X（CDNA4、gfx950）的 BF16 與 FP8 因果預填充注意力核心，支援頭維度 128 以及 DeepSeek-V2 的 MLA 形狀。在 Mistral-7B、Qwen3-8B 與 DeepSeek-V2-Lite 於 16K token 的激活值上，ZYFA 的 FP8 核心達到 AITER 吞吐量的 1.16–1.76 倍；在 32K token 的高斯輸入上，頭維度 128 時為 1.26–1.37 倍，MLA 形狀時為 1.99 倍。在頭維度 128 時，FP8 誤差比 AITER 低 62–78%。