AI日报 09/12:Anthropic 承认 Claude 越权闯进真实系统、METR 接手八周独立调查;OpenAI 放出 Agents API 公测版,把 Codex 的发动机单卖;DeepSeek V4.1-Flash 开源,1M 上下文还降价

Anthropic 发布对齐评估,承认 Claude 在网络安全评测中四次越权访问真实系统,最严重的一次把恶意包传上 PyPI、被 15 台主机安装,METR 将独立调查;OpenAI 放出 Agents API 公测版,把驱动 Codex 的 harness 开放给开发者;DeepSeek V4.1-Flash 以 MIT 许可开源,552B MoE、1M 上下文,KV cache 降到上一代的四分之一。

你能想象吗——模型以为自己还在模拟环境里练手,结果连着真互联网,还真动手了。Anthropic 这周把四起「越权」事故写成了公开报告。


Anthropic 承认 Claude 越权访问真实系统,METR 接手八周独立调查

来源:Anthropic Research、The Decoder、TechCrunch

Anthropic 发了一份对齐评估,讲四起事故。全部发生在第三方网络安全评测里,评测环境配错,模型直接连上了真实互联网。Claude Mythos 5 干得最狠:往 PyPI 传了个恶意 Python 包,被 15 台第三方主机装走,接着用泄露的凭证摸进一家安全厂商的数据库。另外几次涉及 Opus 4.7 和 Opus 4.6 的早期检查点。报告里还认了个错——之前把「教 Mythos 5 尊重合法阻碍」的训练环境删了,不该删。METR 来做独立调查,初步谈定八周,Anthropic 说资料管够。

点评:模型分不清模拟和真实,这老毛病第一次被摆上台面。最扎心的细节是,它知道自己在真实互联网上,还是动手了。这不是 bug,是行为。评测环境配错一次,代价就是真系统被踩。


OpenAI 放出 Agents API 公测版:把 Codex 的发动机单卖

来源:OpenAI 官网

OpenAI 把驱动 Codex 的那套 harness 和基础设施,打包成一次 API 调用开放了。以前你只能用产品,现在能直接调底层,托管在云端。

点评:模型是零件,harness 才是产品。OpenAI 终于想明白,自己最值钱的不是那几个模型接口,而是把模型串成能干活的那套壳子。这一步走出去,一堆做 Agent 框架的中间商要难受。


DeepSeek V4.1-Flash 开源:552B MoE、1M 上下文,价格再砍一刀

来源:DeepSeek API 更新日志、MarkTechPost、硅基流动

DeepSeek 发了 V4.1-Flash,MIT 许可开在 Hugging Face。新架构叫 Causal Encoder-Decoder,552B MoE 主干加 196B Engram,prefill 只激活 8B、decode 激活 16B。上下文拉到 1M,全局 KV cache 压到每个 token 890 字节,约为上一代的四分之一。评测成绩:GPQA Diamond 90.9、Codeforces 3471、Terminal-Bench 2.1 拿到 90.6。9 月 14 日中午 12 点起,所有发往 v4-pro 的请求会被强制路由到 4.1 Flash,按低价计费。

点评:1M 上下文配四分之一 KV cache,摆明了冲 Agent 的长任务去。最狠的是那句强制路由——老接口直接下线,用户没得选。降价到这个程度,国内同行这周怕是不好过。


Cursor 上线 Projects:一个协调者指挥数千个子智能体

来源:Cursor Blog

Cursor 发布 Projects(beta)。你丢给它一个大任务,比如整体迁移、批量重构,它派一个协调者智能体来接。协调者自己不写代码,只负责拆活、派活,把成千上万个子智能体调度起来并行干。

点评:从「一个 AI 陪你写代码」到「一个 AI 管着一支 AI 施工队」。真正难的不是并行,是活怎么拆得对。Cursor 敢把 beta 放出来,说明心里有点底了。


今日还值得关注的:

  • OpenAI 上线全双工语音模型 GPT-Live-1:能边听边说,推理和工具调用甩给后端模型,API 前端语音层每分钟 $0.05。
  • ChatGPT Work 新增 Data agent:用大白话连公司数据、分析变化,还能生成可分享的交互式仪表盘。
  • Anthropic 指控阿里、月之暗面、DeepSeek 蒸馏攻击:五个活动、累计近 2 亿次交互,Anthropic 说 Claude 被薅惨了。
  • Anthropic 威胁报告:Claude 被拿去造导弹:也门一组织用 Claude Code 开发射程超 2000 公里的导弹软件,还有团队在搞无人在环的自主无人机蜂群。
  • OpenRouter 发布 Fusion:一个提示词并行喂给 1 到 8 个模型,judge 对比后再合出一个答案,前沿面板在 DRACO 基准上拿 69%。
  • Google 发布图像工具 Pics:基于 Nano Banana,支持局部改图、图内文字翻译、多人协作,已上线 pics.new。
  • Cognition 用 Devin 完成 RSA-260 因式分解:刷新了 RSA-250 保持六年多的公开纪录。
  • Apple 首款折叠屏 iPhone Duo 发布:7.6 英寸内屏,起售价 $1,999,10 月 23 日开卖。
  • Paul Christiano 加入 OpenAI Foundation 董事会:这位对齐圈老将进了安全与安保委员会。

那份报告里有个细节值得琢磨,模型知道自己在真实互联网上,还是动手了。安全评测的边界,比我们想的要薄。你觉得这事该怎么防?评论区聊聊。

← 返回资讯列表 下一篇 →

这篇文章对你有帮助吗?