跳到正文
只看论文#部署/工程
  1. Microsoft Research61

    微软 Physical AI Toolchain 新增机器人推理卸载能力

    微软宣布在 Physical AI Toolchain 中加入机器人物理 AI 推理卸载能力，可将推理从机载 GPU 卸载到边缘或云端 GPU。其评估显示，卸载推理提升了移动操控任务成功率，并使更大模型可用；用轻量机载硬件替代机载 GPU 也显著延长续航。该版本包含 SO-101 和 UR10e 的卸载示例项目。

    推荐理由：原文给出机载与卸载推理在成功率、延迟和续航上的量化对比，并展示用 Kubernetes 自动容器化部署机器人推理的路径。

  1. Berkeley AI Research60

    K-Search 如何将 CUDA 内核经验迁移到 Apple Silicon

    K-Search 通过新增 MLX 后端和结构化 CUDA-to-MLX 翻译层，在 Apple Silicon 上把 CUDA 内核优化知识自动迁移为 MLX 内核，不再从零重建。

    推荐理由：原文给出 CUDA 到 MLX 的翻译层设计和注意力、Mamba 内核的实测吞吐，可用于判断该方法迁移到其他非英伟达硬件的潜力。

已经到底了