AI 可解释性是否接近突破?一篇新文章让研究者意见分裂
前 OpenAI 研究者 Cammarata 发表文章称,可解释性领域最著名的多义神经元案例可能被误读,例如 InceptionV1 中同时响应猫脸和车头的神经元实际是 V 形检测器,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能。
前 OpenAI 研究者 Cammarata 发表文章称,可解释性领域最著名的多义神经元案例可能被误读,例如 InceptionV1 中同时响应猫脸和车头的神经元实际是 V 形检测器,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能。
Arthur Holland Michel 在 MIT Technology Review 撰文指出,拒答已成为 AI 安全的核心机制,但它的运作依赖概率性分类器和难以解释的内部激活,既可能被越狱绕过,也可能被用于审查。
MIT科技评论梳理人形机器人热潮与实验室真实进展的落差,指出特斯拉Optimus等演示多依赖遥操作或预设脚本。文章介绍Google DeepMind的Gemini Robotics与ALOHA 2、初创公司Physical Intelligence的π0系列等VLA路线,并讨论世界模型能否弥补训练数据不足。