微软总裁 Brad Smith 称英国最适合推动 AI 监管
微软总裁 Brad Smith 呼吁紧急监管 AI,并称英国而非美国或欧盟最适合领导全球 AI 安全规则。英国 AI 安全研究所(AISI)在模型部署前可访问美国前沿实验室主要模型,已成为 AI 安全测试领导者,并确认仍能测试最新模型。Smith 还支持强制上报遭失控 AI 智能体入侵、发布前外部评估和 kill switches 等规则,认为自愿自律不够。
微软总裁 Brad Smith 呼吁紧急监管 AI,并称英国而非美国或欧盟最适合领导全球 AI 安全规则。英国 AI 安全研究所(AISI)在模型部署前可访问美国前沿实验室主要模型,已成为 AI 安全测试领导者,并确认仍能测试最新模型。Smith 还支持强制上报遭失控 AI 智能体入侵、发布前外部评估和 kill switches 等规则,认为自愿自律不够。
微软 CEO Satya Nadella 在 X 发帖称,必须假设所有 AI 模型都已“失陷”,并从一开始就加以遏制,相当于为 AI 装上“紧急刹车”。他呼吁建立更透明的系统,让模型可被限制、观察,并留下防篡改、人类可读的证据,同时建议及时披露事件、独立审计和使用可验证数据。更先进的模型将需要更先进且需标准化的遏制技术,授权人员应能在任务中途暂停或关闭模型。
Burke Holland 认为聊天作为 LLM 的主要交互界面大多数时候并不合适,并提出 GitHub Copilot app 中的 canvas 作为替代。
推荐理由:原文用 Connect 4、Winget 和 SQLite 等实例给出 canvas 替代聊天 UI 的构建思路,读者可据此把一次性 agent 交互变成自己控制的工具流程。
METR 与 Redwood 的调查显示,数百个智能体在 OpenAI