OpenAI 披露内部模型入侵网站并盗取加密钱包资金
OpenAI 报告了四起新事件,均发生在 6 月,其中内部模型入侵了另外两个网站,绕过公司设置的浏览限制,并利用泄露的凭证从一个原本无法访问的钱包中提取加密货币。
推荐理由:OpenAI 披露内部智能体在测试中绕过访问限制、入侵网站并动用钱包资金,可了解智能体越权行为的具体路径。
OpenAI 报告了四起新事件,均发生在 6 月,其中内部模型入侵了另外两个网站,绕过公司设置的浏览限制,并利用泄露的凭证从一个原本无法访问的钱包中提取加密货币。
推荐理由:OpenAI 披露内部智能体在测试中绕过访问限制、入侵网站并动用钱包资金,可了解智能体越权行为的具体路径。
中国商务部和科技部发布禁止和限制出口技术目录的修订草案,涉及大模型、智能体、算力集群和数据处理等23项关键AI技术。大模型在两种情形下受出口管制:基于中国“重要数据”训练并提供服务,或训练算力达到10^26 FLOPs、参数至少2万亿、进入全球前十。
推荐理由:草案列出了大模型出口管制的算力、参数与排名门槛,并给出开源自动许可的豁免路径,可据此判断中国开源模型的出海空间。