MIT Technology Review:我们对 AI 说“不”的能力寄予了过多信任
Arthur Holland Michel 在 MIT Technology Review 撰文指出,拒答已成为 AI 安全的核心机制,但它的运作依赖概率性分类器和难以解释的内部激活,既可能被越狱绕过,也可能被用于审查。
Arthur Holland Michel 在 MIT Technology Review 撰文指出,拒答已成为 AI 安全的核心机制,但它的运作依赖概率性分类器和难以解释的内部激活,既可能被越狱绕过,也可能被用于审查。
Microsoft 研究合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中与首席应用科学家 Chad Atalla 对话,讨论评估如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。
GitHub Copilot 应用推出 canvas,一种在应用内运行、无浏览器界面的全栈小应用,可与 Copilot 智能体双向通信。canvas 能调用第三方 API 并在本地执行代码,例如做出可浏览和安装 Winget 包的界面,或用 SQLite canvas 直接操作数据库。