跳到正文
今天10月13日周二2 条
  1. AWS Machine Learning Blog60

    Amazon Bedrock 在亚太五区通过全球跨区域推理提供 OpenAI GPT-6 调用

    Amazon Bedrock 通过全球跨区域推理,在泰国、马来西亚、新加坡、印度尼西亚和台湾五个亚太区域提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的调用入口。

    推荐理由:原文给出跨区域推理配置文件、IAM 权限和 SCP 例外的具体写法,开发者可据此把现有 OpenAI 客户端迁移到 Bedrock 调用。

10月12日周一
  1. NVIDIA Blog59

    NVIDIA 在 OCP 全球峰会开放 Vera Rubin 架构,助力全球 AI 工厂规模化

    NVIDIA 在 OCP 全球峰会宣布开放 Vera Rubin 架构,并贡献 MGX 机架与计算托盘设计、发布 DSX AI Factory 开源软件组件。具体包括与 AMD、Google、Meta 等发布开放数据中心规范 v0.7 和电网韧性规范,以及与 Cisco 推出 USFP 光模块标准、与 Google 支持 ConnectX-10 上的 Falcon 传输。

10月11日周日
10月9日周五
  1. AWS Machine Learning Blog67

    Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

    Postman 与 AWS 公开其 Agent Mode 在 Amazon Bedrock 上服务 4000 万开发者的生产架构,关键瓶颈是上下文而非模型能力。文章给出了动态工具选择、schema 查询和上下文处理器等可复用模式,以及 Bedrock 的跨区域推理、零数据保留和提示缓存实践。

    推荐理由:原文从 4000 万开发者规模的生产环境中提炼出工具动态选择、结构查询和上下文管理三类模式,可迁移到自建智能体的团队。

  2. Hugging Face Blog44

    Ai2 面向 GPU 集群的高影响力调度

    Ai2 已将 GPU 集群调度从基于优先级的机制改为 GPU 时间预算、分层公平份额分配和分时契约系统,使高影响力研究的资源分配成为透明预算流程。该团队管理数千块 NVIDIA H100、B200、B300 GPU,服务约 150 名研究者,需求常为可用 GPU 的 2-3 倍。旧优先级调度出现 GPU 占坑和优先级通胀;新预算制让管理者像投资者一样提前配置 GPU 时间。

10月8日周四
  1. Microsoft Research73

    Agent Lightning v1.0 发布,以 3,500 行轻量框架支持真实 harness 强化学习

    Microsoft Research Asia 发布并开源 Agent Lightning v1.0,一个约 3,500 行的轻量 Agentic RL 框架,让部署中使用的同一 agent harness 直接参与强化学习。

    推荐理由:用 3,500 行框架让部署 harness 直接参与强化学习,并以约 6,000 条样本把 Qwen3.5-9B 的 SWE-bench Verified 从 41.8% 提到 56.4%。

10月2日周五
  1. NVIDIA Blog61

    NVIDIA DGX Spark 64GB 为开发者提供更多构建和扩展本地 AI 的方式

    NVIDIA DGX Spark 新增 64GB 统一内存配置,10月23日由宏碁、华硕、戴尔、技嘉、惠普和微星发售,起价 $4,999。该配置支持在设备上运行最高 100B 参数模型,双机集群通过 NVIDIA Sync Cluster Assistant 将内存池化到 128GB,可支持最高 200B 参数模型,性能最高提升 1.7 倍。

    推荐理由:DGX Spark 64GB 以 $4,999 起售,并可通过双机集群扩展到 128GB 统一内存和最多 200B 参数模型,为本地智能体开发提供了更低的入门选择。

  2. NVIDIA Blog74

    NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast

    OpenAI 的 GPT-6 Astra Ultrafast 模式现已通过 API 及符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上,token 生成速度比标准模式最多快 8 倍。

    推荐理由:原文给出了 Ultrafast 相对标准模式最多 8 倍 token 生成提速,并说明这一加速如何压缩智能体的编辑、测试与调试循环。

9月24日周四
  1. GitHub Blog · AI & ML53

    GitHub Copilot app 如何流畅渲染百万行级 Pull Request

    GitHub Copilot app 重构了 pull request 视图,使其在包含 2200 个文件、超百万行变更和 400 多条内联评论的极端 PR 上也能流畅打开、滚动和交互。核心做法是分离确定性代码几何与动态评论块几何,并采用惰性测量和滚动锚定来保持稳定。文章还展示了无人值守的测量循环如何定位仅在高负载下出现的性能缺陷。

  2. Microsoft Research61

    微软 Physical AI Toolchain 新增机器人推理卸载能力

    微软宣布在 Physical AI Toolchain 中加入机器人物理 AI 推理卸载能力,可将推理从机载 GPU 卸载到边缘或云端 GPU。其评估显示,卸载推理提升了移动操控任务成功率,并使更大模型可用;用轻量机载硬件替代机载 GPU 也显著延长续航。该版本包含 SO-101 和 UR10e 的卸载示例项目。

    推荐理由:原文给出机载与卸载推理在成功率、延迟和续航上的量化对比,并展示用 Kubernetes 自动容器化部署机器人推理的路径。

9月10日周四
9月9日周三
7月29日周三
5月8日周五
  1. Berkeley AI Research43

    自适应并行推理:高效推理扩展的下一范式

    自适应并行推理是高效推理扩展的下一范式,核心是让推理模型自行决定何时分解并并行化独立子任务、启动多少并发线程以及如何协调。文章对比了自洽性/多数投票、Best-of-N、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等并行推理方法,指出它们大多由模型外部固定并行结构,难以适配不同问题的并行度需求。