Edgen Stock·Nov 25 2025, 10:07OpenAI 推出了一種實驗性 AI 模型——權重稀疏變換器，旨在解決 AI 開發中的「黑箱」問題，提高可解釋性。這項研究提供了一個理解和潛在控制進階 AI 系統的新框架，優先考慮安全性和性能。
OpenAI 發布了一項新研究，詳細介紹了一種實驗性模型，即權重稀疏變換器，旨在解決 AI 可解釋性的關鍵挑戰。在一篇題為「權重稀疏變換器具有可解釋電路」的論文中，該公司概述了一種超越大型語言模型（LLM）「黑箱」本質的方法。透過創建本質上更容易剖析的模型，OpenAI 正在為改進 AI 安全性和對齊建構技術基礎，這一舉動對競爭格局和未來的監管框架具有重要意義。
該研究的核心涉及訓練「權重稀疏」的 LLM，這意味著其絕大多數內部參數（權重）都被設定為零。這種固有的簡單性隨後與一種新穎的自動化剪枝技術相結合，該技術可以隔離負責模型特定行為的特定計算電路。
結果是一個高度可解釋的框架。根據這項研究，從這些稀疏模型中提取的任務特定電路大約比具有相似性能水平的傳統密集模型中的電路小 16 倍。這些簡化的電路包含對應於可識別概念的節點和通道，例如識別「單引號後的標記」或追蹤「列表嵌套深度」，從而使研究人員能夠更清楚地理解模型的內部邏輯。
這一發展對 AI 領域具有深遠影響。首先，它直接解決了AI 對齊問題——確保進階 AI 系統符合人類意圖的挑戰。透過提供一種審計和理解 AI 決策的潛在方法，這項研究可能成為未來安全標準和政府監管的基石。
其次，它巧妙地將競爭敘事從純粹的計算能力競賽轉向了一個也重視透明度的領域。儘管 OpenAI 承認這些稀疏模型無法與自身 GPT 系列或 Google 的 Gemini 等前沿模型的能力相媲美，但這種雙軌方法將該公司定位為負責任 AI 開發的領導者。
最後，該研究強調了一個重要的硬體考慮因素。論文指出，訓練權重稀疏模型目前計算效率低下。這一限制可能會催化硬體開發的新方向，鼓勵 NVIDIA、AMD 和 IBM 等公司設計和建構專門針對稀疏計算進行優化的下一代 AI 加速器，從而偏離當前對密集模型架構的關注。
OpenAI 的研究強調了現代 AI 開發中的一個基本權衡：能力與可解釋性。論文指出，雖然計算密集，但「增加稀疏模型的規模可以改善能力和可解釋性之間的整體權衡」。這表明，隨著進一步的創新，稀疏模型和密集模型之間的性能差距可能會縮小。
此外，這些方法有望增強現有系統的透明度。研究人員建議使用這些技術創建「橋樑」，將密集模型的複雜計算連接到更易於理解的稀疏模型，從而有效地允許解釋當前和未來的前沿 AI。
OpenAI 的研究並非產品發布，而是對該領域的一項基礎科學貢獻。它解決了 AI 中長期存在且最關鍵的挑戰之一：「黑箱」問題。隨著 AI 系統越來越多地整合到關鍵經濟和社會部門，驗證其推理並確保其安全性的能力變得至關重要。這項工作為建構更值得信賴和可控的 AI 提供了切實可行的途徑，這是廣泛的公眾和企業採用的先決條件，也是全球監管機構關注的重點。