跳到正文
10月16日周五
  1. Latent Space72

    Goodfire 提出神经网络已足够清晰,可解释性争议再起

    Goodfire 的 Nick Cammarata 发布文章提出“神经网络已经足够清晰”,认为许多著名的多义性与叠加案例经进一步智能体分析后可以被解读,而他在 2023 年 OpenAI 的自动可解释性工作中仅约 2% 神经元可读。Neel Nanda 表示这未改变他的核心判断,仍认为存在表征叠加,Leo Gao 则主张应以神经元模拟的 KL 来衡量解释质量。该文尚未正式发表。

10月14日周三