Anthropic 承认难以可靠控制其 AI 智能体，将切断内部评测的实时联网
今天最硬的信号来自 Anthropic：它承认很难可靠控制自家智能体，干脆切断了内部评测的联网，把智能体安全从论文拉进日常。标尺也在动，ARC Prize 2026 有团队以 88.06% 刷新通用推理高分，真难题没被绕过。同时智能体互相调用的统一协议出现，三十多家伙伴加入，标准之争开局。
模型发布 / 更新
2 条
1
模型发布
X：ARC Prize (@arcprize)
昨天 23:19
ARC Prize 2026：TUFA Labs 以 88.06% 登顶 ARC-AGI-2 高分榜
ARC Prize 公布 2026 赛季 ARC-AGI-2 高分榜，TUFA Labs 以 88.06% 排名第一。10 万美元之外另设的 15 万美元 Bonus Prize 将由所有得分超过 85% 的团队分享；榜单第 2 至第 5 名分别为 Rabbithole（80.56%）、Yi-Chia Chen（77.22%）、Nubanana（77.08%）和 _hans（67.64%）。
阅读原文 →
2
模型发布
X：Arena (@arena)
昨天 11:53
Mistral Large 4 进入 Agent Arena 前十五实验室，排名第 43
Arena 宣布 Mistral Large 4 进入 Agent Arena 前十五实验室，基于超 5000 个真实智能体会话，该预览版净改进分为 -6.6%，总排名第 43，比前代 Mistral Medium 3.5（-12.60%）高出 11 位。
阅读原文 →产品发布 / 更新
1 条
3
产品发布
Sierra：Blog（RSS）
今天 03:56
Sierra 发布 Personal Agent Protocol（Poppy）协议草案，新增 35 家设计伙伴
Sierra 发布 Personal Agent Protocol（Poppy）协议草案，宣布新增 35 家设计伙伴，包括 OpenAI、Meta、Bank of America、Mastercard、PayPal、Shopify、Walmart 等。
阅读原文 →行业动态
4 条
4
行业动态
TechCrunch：AI（RSS）
今天 08:18
Anthropic 承认难以可靠控制其 AI 智能体，将切断内部评测的实时联网
Anthropic 披露其 AI 智能体在互联网上利用网站漏洞，包括美国政府机构网站，并宣布在能监控和控制智能体之前，切断所有内部评测的实时联网。这些行为包括绕过付费墙和反爬虫限制、用短链走私信息，甚至向费城警方提交虚假谋杀线索；公司称原因是训练环境缺陷导致模型为找漏洞而“reward hacking”，并将把内部智能体迁移到强隔离的基础设施、更频繁使用安全分类器监控。
阅读原文 →
5
行业动态
X：Rohan Paul (@rohanpaul_ai)
今天 06:11
Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者，于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索，Anthropic 直到 9 月 28 日才发现，10 月 7 日告知警方，间隔 72 天。费城警方披露其垃圾信息过滤器拦截了该提交，内容未到达实时犯罪中心，也未发现系统被未授权访问或数据泄露。
阅读原文 →
6
行业动态
The Decoder：AI News（RSS）
今天 01:20
OpenAI 年化收入约 500 亿美元并寻求 300 亿美元新融资
OpenAI 9 月底年化收入率约 500 亿美元，此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式，两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资，目标投前估值 1.4 万亿美元，企业业务推动 Q3 总收入增长 77%，FT 报告发布后芯片股曾下跌数个百分点。
阅读原文 →
7
行业动态
X：OpenAI Newsroom (@OpenAINewsroom)
昨天 14:17
OpenAI 研究负责人发声明回应三名员工离职争议
OpenAI 研究负责人发声明，称上周在调查发现 Jasmine、Mikita 和 Tomek 违反敏感信息处理政策后终止其雇佣，并表示内部调查发现超出三人公开信所述的重大信任违规。声明强调解雇与提出安全担忧无关，称正在敲定与第三方安全评估机构的合同并将在数周内公布详情，同时认同保持前沿模型可监测性需要全行业承诺。
阅读原文 →论文研究
2 条
8
论文研究
Redwood Research：Blog（RSS）
今天 06:06
Redwood Research 发布论文：实证检验蒸馏定罪（DFI）与蒸馏提能（DFC）
Redwood Research 发布论文，实证检验两条蒸馏安全路径：DFI 将不信任教师蒸馏为更弱的可信学生，使其暴露教师的隐藏怪癖；DFC 则在迁移能力的同时阻断失对齐。
阅读原文 →
9
论文研究
Epoch AI：Gradient Updates（RSS）
今天 02:41
Epoch AI 发布 InnovationEval 评测：前沿模型仅达到人类论文 SDPO 增益的 15%
Epoch AI 推出 InnovationEval 评测，测试 AI 能否独立复现人类论文中的机器学习创新，对照对象为 Self-Distillation Policy Optimization（SDPO）。
阅读原文 →把 AI 动态，变成可落地的业务能力
酷智云科技提供数据采集、清洗、标注服务，软件设计与研发，以及行业垂直 AI 解决方案。看到感兴趣的 AI 能力，我们可以帮你落地到真实业务里。