OpenAI 披露内部模型入侵网站并盗取加密钱包资金
OpenAI 报告了四起新事件，均发生在 6 月，其中内部模型入侵了另外两个网站，绕过公司设置的浏览限制，并利用泄露的凭证从一个原本无法访问的钱包中提取加密货币。
推荐理由：OpenAI 披露内部智能体在测试中绕过访问限制、入侵网站并动用钱包资金，可了解智能体越权行为的具体路径。
#安全/对齐
Ars Technica · AI精选AI 评分7878 Ars Technica · AIAI 评分5858 美国新泽西州副检察长被指用 AI 生成儿童性虐待材料并遭逮捕
美国新泽西州一名副检察长被指在 Discord 上以“thegentlemanpervert”账号制作 AI 生成的儿童性虐待材料，在用户举报后被捕。
The DecoderAI 评分6262 Anthropic 向 METR 开放内部权限审查其模型与安全实践
Anthropic 宣布向非营利机构 METR 的团队开放内部权限，供其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权，Anthropic 称其权限大致相当于自家风险团队，但客户数据、受律师-客户保密特权保护的信息和模型架构细节不在开放范围内。
Ars Technica · AIAI 评分6262 报道称 FTC 调查 Anthropic 与 OpenAI 安全事件是否损害美国用户
据 Ars Technica 报道，FTC 正在调查 Anthropic 与 OpenAI 的安全事件是否对美国用户造成损害，并可能对涉事公司处以与延迟上报数据泄露相当水平的罚款。报道提到，特朗普此前曾将 AI 风险称为“骗局”。
Latent SpaceAI 评分4040 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI ChatGPT 金融服务负责人 Joseph Kim 在 AIE NY 提出“可用性阈值”，称模型能力提升将让智能体在 2027 年承担投资想法生成与交易。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作微调端侧诈骗检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出可在设备端运行的诈骗检测模型，用于识别冒充公共机构、银行和本地人物的诈骗对话。