AI 可解释性是否接近突破?一篇新文章让研究者意见分裂
前 OpenAI 研究者 Cammarata 发表文章称,可解释性领域最著名的多义神经元案例可能被误读,例如 InceptionV1 中同时响应猫脸和车头的神经元实际是 V 形检测器,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能。
前 OpenAI 研究者 Cammarata 发表文章称,可解释性领域最著名的多义神经元案例可能被误读,例如 InceptionV1 中同时响应猫脸和车头的神经元实际是 V 形检测器,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能。
2026 年多部电影集中批判科技巨头:Aaron Sorkin 的《The Social Reckoning》将 Mark Zuckerberg 塑造成危害民主的机器人式反派。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开源模型可本地运行、重训、微调,成本通常低于闭源模型,并被视为防止权力过度集中的手段;但截至发稿,Artificial Analysis LLM 榜单前八名仍均为闭源模型。
Arthur Holland Michel 在 MIT Technology Review 撰文指出,拒答已成为 AI 安全的核心机制,但它的运作依赖概率性分类器和难以解释的内部激活,既可能被越狱绕过,也可能被用于审查。