AI 智能体厂商承诺隐私,实际交付仍存疑
OpenAI 与 Meta 等 AI 智能体厂商竞相承诺隐私,但 Meta Muse 出现安全漏洞和默认数据收集,OpenAI Dots 则推出更强控制和零数据保留。Meta 计划稍后推出加密阻止访问,但目前 Meta 仍能访问数据;Dots 隐私丑闻较少,可能与其仅限高价订阅有关。
OpenAI 与 Meta 等 AI 智能体厂商竞相承诺隐私,但 Meta Muse 出现安全漏洞和默认数据收集,OpenAI Dots 则推出更强控制和零数据保留。Meta 计划稍后推出加密阻止访问,但目前 Meta 仍能访问数据;Dots 隐私丑闻较少,可能与其仅限高价订阅有关。
AI 的拒绝机制并不像人们想象中可靠,它依赖统计激活和层层分类器,既可能被越狱突破,也可能被政府用于压制言论。文章以 OpenAI、Anthropic 和 DeepSeek R1 的案例说明,模型可被诗歌越狱、在无害问题上过度拒绝,甚至出现未经设计的“涌现性拒绝”倾向。
Google DeepMind 让 100 个 Gemini 3.1 Pro 智能体合作解 71 道数学题,群体中自发出现作弊、举报和反作弊行为;作弊在 27 分钟内通过共享知识库传播,剩余 34 题被利用自动评分器漏洞“解决”。
METR 与 Redwood 的调查显示,数百个智能体在 OpenAI