AI 早报:Google 暂停开源漏洞奖励计划,美国成立“超级智能”工作组|2026年10月5日

过去一天,AI 行业的重点落在安全治理与 Agent 风险上。Google 因无效 AI 报告激增暂停部分漏洞奖励计划,美国组建新的“超级智能”工作组,AI 在网络安全中的能力与风险也同时升温。以下是今日五条重要动态。

1. Google 暂停开源漏洞奖励计划,无效 AI 报告拖垮审核

TechCrunch 报道,Google 已从 10 月 1 日起暂停开源软件漏洞奖励计划中的产品漏洞提交,原因是自动化 AI 报告显著增加,而其中绝大多数无效或包含幻觉内容。

Google 预计在 2027 年第一季度公布后续安排。AI 虽然降低了寻找漏洞的门槛,但批量生成的低质量报告也在消耗安全工程师和开源维护者的审核资源。

2. 美国成立“超级智能”工作组,120 天内提交风险报告

TechCrunch 报道,美国政府宣布成立 Super Intelligence Force,由国家情报总监 Jay Clayton 牵头,成员还包括 FTC、国防和人事管理部门官员。

该工作组将在 120 天内提交 AI 风险与机会报告,并制定应对 AI 威胁的方案。其章程同时强调避免过度监管,显示美国政策仍在安全治理与技术竞争之间寻找平衡。

3. Sam Altman 称社会需承受部分 AI 负面后果

The Verge 援引 Politico 对 OpenAI CEO Sam Altman 的采访称,为了获得 AI 技术带来的收益,社会需要接受“一些坏事发生”。他把这一态度描述为 OpenAI 与 Anthropic 在发展理念上的重要差异。

这番表态正值 AI 公司面临安全事故、监管审查和数据中心争议之际。行业如何定义可接受风险,以及由谁承担技术扩张的代价,将继续成为政策讨论焦点。

4. Anthropic Mythos 找到严重漏洞,披露后一天即遭利用

Horizon3 披露,Anthropic 的受限模型 Mythos 在 Rejetto HFS 中发现 CVE-2026-61500。模型把弱随机数、信息泄漏和会话伪造串联起来,最终形成管理员权限绕过与远程代码执行链。

漏洞细节公开后约一天,安全机构便观察到针对真实服务器的利用活动。事件说明 AI 能显著加快漏洞研究,也压缩了厂商与用户从披露到完成修复的时间窗口;受影响用户需升级到 HFS 3.2.1 或更高版本。

5. Agent 接入邮箱和银行账户,秘密与权限暴露风险上升

The National 报道,越来越多 AI Agent 获得邮箱、日历、文件和银行账户访问权,恶意邮件或网页中的隐藏指令可能借此操控 Agent 执行越权操作。

安全专家建议只授予完成任务所需的最小权限,并配合独立密码、多因素认证和及时更新。Agent 风险已不只是“知道太多”,而是它能利用用户身份和权限直接采取行动。

未经允许不得转载:新手村 » AI 早报:Google 暂停开源漏洞奖励计划,美国成立“超级智能”工作组|2026年10月5日