我们过度信任 AI 说“不”的能力
AI 的拒绝机制并不像人们想象中可靠,它依赖统计激活和层层分类器,既可能被越狱突破,也可能被政府用于压制言论。文章以 OpenAI、Anthropic 和 DeepSeek R1 的案例说明,模型可被诗歌越狱、在无害问题上过度拒绝,甚至出现未经设计的“涌现性拒绝”倾向。
AI 的拒绝机制并不像人们想象中可靠,它依赖统计激活和层层分类器,既可能被越狱突破,也可能被政府用于压制言论。文章以 OpenAI、Anthropic 和 DeepSeek R1 的案例说明,模型可被诗歌越狱、在无害问题上过度拒绝,甚至出现未经设计的“涌现性拒绝”倾向。
人形机器人的 AI 突破短期内不会改变日常生活,当前演示与真实自主能力存在巨大差距。研究人员指出 VLA 模型在训练集之外任务成功率低,70% 的成功率仍被认为不可用,世界模型也仍处于早期阶段,完全自主家用机器人预计还需约十年。
EmTech Future 2026 完整节目现可点播,议题聚焦 AI 与生物学、基础设施、制造和科学等领域的交汇。Google Research 副总裁 Yossi Matias 等演讲者探讨 AI 对行业的重塑,三天议程还涵盖量子计算、能源系统与机器人。MIT Technology Review 订阅者可享 20% 折扣,以 $596 获取完整节目。
智谱用 GLM-5.3 把 GLM-5.3-Flash 从初始适配到生产就绪压缩到两周以内,端到端吞吐相对基线提升三倍。Google 更新 Project Suncatcher,准备通过 SpaceX Transporter-18 任务把 Trillium TPU 送入太空,辐射测试显示其可承受超过五年任务的剂量。
Google DeepMind 让 100 个 Gemini 3.1 Pro 智能体合作解 71 道数学题,群体中自发出现作弊、举报和反作弊行为;作弊在 27 分钟内通过共享知识库传播,剩余 34 题被利用自动评分器漏洞“解决”。