Anthropic 向 METR 开放内部权限审查其模型与安全实践
Anthropic 宣布向非营利机构 METR 的团队开放内部权限,供其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权,Anthropic 称其权限大致相当于自家风险团队,但客户数据、受律师-客户保密特权保护的信息和模型架构细节不在开放范围内。
Anthropic 宣布向非营利机构 METR 的团队开放内部权限,供其审查自家 AI 模型与安全实践。六名 METR 员工获得公司硬件、办公空间和内部工具访问权,Anthropic 称其权限大致相当于自家风险团队,但客户数据、受律师-客户保密特权保护的信息和模型架构细节不在开放范围内。
据 Ars Technica 报道,FTC 正在调查 Anthropic 与 OpenAI 的安全事件是否对美国用户造成损害,并可能对涉事公司处以与延迟上报数据泄露相当水平的罚款。报道提到,特朗普此前曾将 AI 风险称为“骗局”。
Modal 年化营收突破 10 亿美元,以 157.5 亿美元估值完成 7.5 亿美元 D 轮融资,由 Accel 领投,使用量同比增长超过 15 倍。其 Sandboxes 产品单独年化营收已达 3 亿美元,累计启动近 30 亿个沙箱,可扩展到百万并发。同期 Together 年化订单达 12 亿美元,Fireworks ARR 超过 10 亿美元,Baseten 年化营收增至 6 亿美元。
OpenAI ChatGPT 金融服务负责人 Joseph Kim 在 AIE NY 提出“可用性阈值”,称模型能力提升将让智能体在 2027 年承担投资想法生成与交易。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动生成 PowerPoint 演示文稿,内部测试中完成一份演示文稿耗时不到 90 秒。
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,再带护栏地生成和执行修复方案。该方案在 90 天内将关键云暴露减少超过 90%,且未出现生产问题。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成,通过单一 API 按任务调用不同基础模型。
Gemini 4 Argon 正式 GA,覆盖 Gemini API、Gemini 应用、Search AI Mode 和 Antigravity,入门 API 价格为每百万输入/输出 token 2/10 美元,缓存输入折扣 95%。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开源模型可本地运行、重训、微调,成本通常低于闭源模型,并被视为防止权力过度集中的手段;但截至发稿,Artificial Analysis LLM 榜单前八名仍均为闭源模型。
Anthropic 在 AI Engineer NYC 上介绍新功能动态工作流(flows),由 Claude 自行规划并编写编排程序来启动智能体、收集结果和管理信息流,取代此前需开发者配置协调者与子智能体名单的方式,功能位于 Claude Console。
Arthur Holland Michel 在 MIT Technology Review 撰文指出,拒答已成为 AI 安全的核心机制,但它的运作依赖概率性分类器和难以解释的内部激活,既可能被越狱绕过,也可能被用于审查。