从 CUDA 到 MLX：K-Search 将内核优化专长带到 Apple Silicon

IBM Research 扩展了 K-Search——来自 UC Berkeley Sky Lab 的进化式内核搜索框架——为其增加了 MLX 后端和一个结构化的 CUDA 到 MLX 翻译层，可将现有 CUDA 内核适配为 Apple Silicon 内核。在一个 MLX 注意力内核上，该方法达到了 Apple 原生 MLX Attention 内核速度的 0.97 倍，而在没有翻译上下文时为 0.26 倍；在 M1 Max 上，一个进化出的 Mamba SSM 内核相比社区 mlx-lm 实现实现了最高 20 倍的 prefill 加速。作者将这一提升主要归因于提供给 LLM 的上下文和约束的质量，而非其编写 Metal 代码的能力，并表示该方法并非 MLX 专属。