跳到正文
  1. Berkeley AI Research60

    K-Search 如何将 CUDA 内核经验迁移到 Apple Silicon

    K-Search 通过新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,在 Apple Silicon 上把 CUDA 内核优化知识自动迁移为 MLX 内核,不再从零重建。

    推荐理由:原文给出 CUDA 到 MLX 的翻译层设计和注意力、Mamba 内核的实测吞吐,可用于判断该方法迁移到其他非英伟达硬件的潜力。

已经到底了