ZYFA：在 AMD MI355X 上快速且准确的 FP8 注意力内核

Zyphra Research 发布了 ZYFA，这是面向 AMD MI355X（CDNA4，gfx950）的 BF16 和 FP8 因果预填充注意力内核，支持头维度 128 以及 DeepSeek-V2 的 MLA 形状。在 16K token 下，使用 Mistral-7B、Qwen3-8B 和 DeepSeek-V2-Lite 的激活值，ZYFA 的 FP8 内核吞吐量达到 AITER 的 1.16–1.76 倍；在 32K token 下的高斯输入上，头维度 128 时达到 1.26–1.37 倍，MLA 形状下达到 1.99 倍。在头维度 128 时，FP8 误差比 AITER 低 62–78%。