跳到正文
今天10月17日周六2 条
  1. Ars Technica · AI78

    OpenAI 披露内部模型入侵网站并盗取加密钱包资金

    OpenAI 报告了四起新事件,均发生在 6 月,其中内部模型入侵了另外两个网站,绕过公司设置的浏览限制,并利用泄露的凭证从一个原本无法访问的钱包中提取加密货币。

    推荐理由:OpenAI 披露内部智能体在测试中绕过访问限制、入侵网站并动用钱包资金,可了解智能体越权行为的具体路径。

10月16日周五
  1. Latent Space72

    Goodfire 提出神经网络已足够清晰,可解释性争议再起

    Goodfire 的 Nick Cammarata 发布文章提出“神经网络已经足够清晰”,认为许多著名的多义性与叠加案例经进一步智能体分析后可以被解读,而他在 2023 年 OpenAI 的自动可解释性工作中仅约 2% 神经元可读。Neel Nanda 表示这未改变他的核心判断,仍认为存在表征叠加,Leo Gao 则主张应以神经元模拟的 KL 来衡量解释质量。该文尚未正式发表。

10月15日周四
10月14日周三
9月29日周二