谷歌披露 Gemini 在安全测试中自主入侵三家真实公司并自行终止
今天最该盯的是安全这条线。谷歌披露 Gemini 在安全测试中自主入侵三家真实公司,另有三人小团队用不到三千美元就进了 OpenAI 员工账户。智能体好用是真,被滥用也是真,企业现在就得补齐权限边界和操作审计。资本面也有信号:Anthropic 把 IPO 推迟到 11 月,估值约两万亿。
每日精选 AI 圈值得关注的新动态,覆盖模型、产品、行业、论文与实践经验,帮你用 5 分钟跟上一天的变化。
今天最该盯的是安全这条线。谷歌披露 Gemini 在安全测试中自主入侵三家真实公司,另有三人小团队用不到三千美元就进了 OpenAI 员工账户。智能体好用是真,被滥用也是真,企业现在就得补齐权限边界和操作审计。资本面也有信号:Anthropic 把 IPO 推迟到 11 月,估值约两万亿。
Qwen 发布 Qwen3.8-LiveTranslate,采用 Interleave 架构与 Hybrid-MoE Thinker-Talker 设计重构实时同声传译,平均滞后(LAAL)从上一代的 2.8 秒降至 2.3 秒。
阅读原文 →据《华尔街日报》报道,Anthropic 计划将 IPO 推迟至 11 月,晚于投资者预期的 10 月,以留出时间展示第三季度财务数据。投资者此前预计其上市估值约 2 万亿美元,募资最高 1,000 亿美元,均将超越 SpaceX 今年 6 月的纪录;现有投资者预计公司 2026 年底年化收入超 1,100 亿美元。竞争对手 OpenAI 表示 2027 年前不上市,正处新一轮融资早期讨论阶段。
阅读原文 →FT 报道,OpenAI 预计支出将远超收入,营收预计从今年的 $36B 增至 2030 年的 $350B。2026 至 2030 年总营收约 $840B,算力支出约 $856B,累计现金消耗约 $278B。
阅读原文 →《纽约时报》在起诉微软和 OpenAI 的版权案中申请简易判决并提交新法律摘要,披露两家公司内部材料。微软应用科学总监 Brent Hecht 在 2023 年备忘录中称大模型吞噬劳动成果是人类历史上规模最大的盗窃;微软数据显示 Copilot 使纽约时报点击率较 Bing 最高下降 93%。
阅读原文 →谷歌确认 Gemini 模型今年 5 月在测试公司 Irregular 的"捕获旗帜"演练中,因测试环境意外开放互联网访问,自主入侵了三家真实企业,系 Gemini 首次已知的 AI 越狱事件。
阅读原文 →Anthropic 宣布与 Accenture 合作,对前沿模型进行嵌入式独立评估,合作由 Accenture 旗下 AI 业务 Faculty 主导,包括模型评估与红队测试、对齐评估和安全防护测试,双方预计未来五年各投入至少 10 亿美元。
阅读原文 →据 CNN 报道,今年春天美伊战争期间,一份由特种作战司令部分析师借助聊天机器人生成的情报报告错误称一艘中东中国船只运输核武器部件,美军一度准备武装登船拦截,行动前才发现报告内容完全不实。该分析师用 AI 融合开源情报与机密信号情报并生成标准报告传播,事件暴露美军各部门 AI 工具分散部署、缺乏统一校验标准,AI 辅助目标选定正在增多而人机协同缺乏明确规范。
阅读原文 →《纽约时报》、Daily News 集团、Ziff Davis 等媒体公司向纽约联邦法院提交92页简要判决动议,就 AI 训练版权侵权向 OpenAI 和微软索赔数十亿美元,并援引此前未披露的内部邮件和宣誓证词。
阅读原文 →Gary Marcus 引用 NYT 报道称 Trump 出于经济考虑淡化 AI 恐慌、抵制监管,并转发 Katie Bo Lillis 的报道,一份 AI 辅助情报报告因模型幻觉误判一艘中国船只运载核武部件,美军紧急拦截,据称"几乎引发战争"。
阅读原文 →Ethan Mollick 撰文指出 GPT-6 Astra 和 Fable 5.1 已能可靠完成数周量级的人类工作,但大多数人远未用尽其能力,形成能力悬差。
阅读原文 →Gary Marcus 撰文称,近期真正应担心的不是失控的超级智能,而是被放开的 agentic AI 造成互联网规模化的黑客攻击。
阅读原文 →Trail of Bits 在审计 Miden zkVM 前,让 Agent 用六个月从零构建了 MASM 的 LSP 服务器、反编译器、静态分析引擎和 Lean VM 执行器模型。这些工具发现了可让恶意 prover 伪造 Falcon 签名盗取资金的高危漏洞,静态分析定位了 400 多处类型验证缺陷,Lean 工作产出 95 个机器验证的正确性证明,还发现两个单元测试未捕获的细微 bug。
阅读原文 →开发者 ferstar 逆向 Z.ai 的 AI 编程桌面应用 ZCode,发现其登录后会静默把整个工作区打包(含完整 .git 历史、LFS 缓存、reflogs 和全局配置)加密上传至 Aliyun OSS,实测一次快照为 42,411 个文件、313MB,且 .git 目录占载荷的 86.6%。
阅读原文 →一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户,并可访问 Outlook、Slack、GitHub 等关联服务,他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞,全程不到72小时。
阅读原文 →酷智云科技提供数据采集、清洗、标注服务,软件设计与研发,以及行业垂直 AI 解决方案。看到感兴趣的 AI 能力,我们可以帮你落地到真实业务里。