Edgen Stock·Nov 25 2025, 10:07OpenAI 推出了一种实验性 AI 模型——权重稀疏变换器，旨在解决 AI 开发中的“黑箱”问题，提高可解释性。这项研究提供了一个理解和潜在控制高级 AI 系统的新框架，优先考虑安全性和性能。
OpenAI 发布了一项新研究，详细介绍了一种实验性模型，即权重稀疏变换器，旨在解决 AI 可解释性的关键挑战。在一篇题为“权重稀疏变换器具有可解释电路”的论文中，该公司概述了一种超越大型语言模型（LLM）“黑箱”本质的方法。通过创建本质上更容易剖析的模型，OpenAI 正在为改进 AI 安全性和对齐构建技术基础，这一举动对竞争格局和未来的监管框架具有重要意义。
该研究的核心涉及训练“权重稀疏”的 LLM，这意味着其绝大多数内部参数（权重）都被设置为零。这种固有的简单性随后与一种新颖的自动化剪枝技术相结合，该技术可以隔离负责模型特定行为的特定计算电路。
结果是一个高度可解释的框架。根据这项研究，从这些稀疏模型中提取的任务特定电路大约比具有相似性能水平的传统密集模型中的电路小 16 倍。这些简化的电路包含对应于可识别概念的节点和通道，例如识别“单引号后的标记”或跟踪“列表嵌套深度”，从而使研究人员能够更清楚地理解模型的内部逻辑。
这一发展对 AI 领域具有深远影响。首先，它直接解决了AI 对齐问题——确保高级 AI 系统符合人类意图的挑战。通过提供一种审计和理解 AI 决策的潜在方法，这项研究可能成为未来安全标准和政府监管的基石。
其次，它巧妙地将竞争叙事从纯粹的计算能力竞赛转向了一个也重视透明度的领域。尽管 OpenAI 承认这些稀疏模型无法与自身 GPT 系列或 Google 的 Gemini 等前沿模型的能力相媲美，但这种双轨方法将该公司定位为负责任 AI 开发的领导者。
最后，该研究强调了一个重要的硬件考虑因素。论文指出，训练权重稀疏模型目前计算效率低下。这一限制可能会催化硬件开发的新方向，鼓励 NVIDIA、AMD 和 IBM 等公司设计和构建专门针对稀疏计算进行优化的下一代 AI 加速器，从而偏离当前对密集模型架构的关注。
OpenAI 的研究强调了现代 AI 开发中的一个基本权衡：能力与可解释性。论文指出，虽然计算密集，但“增加稀疏模型的规模可以改善能力和可解释性之间的整体权衡”。这表明，随着进一步的创新，稀疏模型和密集模型之间的性能差距可能会缩小。
此外，这些方法有望增强现有系统的透明度。研究人员建议使用这些技术创建“桥梁”，将密集模型的复杂计算连接到更易于理解的稀疏模型，从而有效地允许解释当前和未来的前沿 AI。
OpenAI 的研究并非产品发布，而是对该领域的一项基础科学贡献。它解决了 AI 中长期存在且最关键的挑战之一：“黑箱”问题。随着 AI 系统越来越多地集成到关键经济和社会部门，验证其推理并确保其安全性的能力变得至关重要。这项工作为构建更值得信赖和可控的 AI 提供了切实可行的途径，这是广泛的公众和企业采用的先决条件，也是全球监管机构关注的重点。