白宮要求Anthropic封堵兩款模型所有越獄漏洞 技術上幾乎不可能

川普政府要求Anthropic封堵其最先進AI模型所有可能的越獄漏洞——這項技術上不可能實現的要求，已使雙方就AI監管未來陷入僵局。

據一位資深白宮官員及一位熟悉內情的行政部門官員透露，白宮要求Anthropic消除其Fable 5和Mythos 5模型中的所有安全漏洞，這是一個技術上無法達到的標準，已升級為一場關於AI監管未來的對峙。

「問題在於，白宮長期以來一直處於極端反監管的立場，而現在他們正面臨人們多年來一直預測的真正的AI能力，」一位不願具名的前白宮科技官員表示，以避免影響專業關係。「本應有系統性的準備和政策來應對這一問題，管理好收益與風險，但現在這種倉促應對的方式反而讓AI產業陷入真正的困境。」

這場爭端始於6月13日白宮對Anthropic實施出口管制，迫使該公司暫停所有用戶對這兩款模型的存取。亞馬遜CEO Andy Jassy曾警告財政部長Scott Bessent，研究人員發現了防護措施繞過的證據。Anthropic辯稱此漏洞範圍有限，不構成重大安全缺陷，但白宮隨即禁止外國用戶存取這些模型。該公司最終選擇全面下架這兩款模型，稱這是遵守出口管制的唯一途徑。

這場對峙涉及重大經濟利益。Anthropic的企業客戶——包括Apple、Meta以及眾多財富500強企業——仍無法使用該公司最先進的系統。這場糾紛也凍結了該公司部署新模型的能力，可能拖累其營收成長及相對於競爭對手OpenAI和Google DeepMind的競爭優勢。

爭議核心：技術上的不可能性

安全研究人員和AI高層表示，白宮的要求在現有技術下無法實現。由於大型語言模型是概率性而非確定性的，企業無法保證針對任何給定提示會生成什麼內容。每個模型都可能被越獄到不同程度的範圍，且現有方法根本無法徹底解決這一問題。

Anthropic與獨立網路安全研究人員認為，越獄並非可以透過修補程式解決的孤立問題。該公司最初的辯護理由是沒有任何AI模型能完全免疫於駭客攻擊——這一立場激怒了白宮官員，他們指出Anthropic多年來一直在警告AI可能帶來災難性後果。

白宮與Anthropic之間的談判——由公司方的公共政策主管Sarah Heck和聯合創始人Tom Brown主導——已轉向制定一套共同基準來評估未來的越獄情況，包括防護措施被繞過的程度、被暴露的能力範圍，以及漏洞的實際後果。儘管出口管制尚未解除，但轉向制定技術標準的做法表明談判正在取得進展。

事實上的特許授權制度浮現

川普政府此前曾反對強制性AI特許授權。川普總統上月簽署了一項行政命令，為AI實驗室建立了一個「自願性」系統，讓它們可提交模型供政府提前測試，並明確規定該系統不會變成強制性。但Anthropic爭議實際上已催生出一個臨時版本的這類制度。

其他領先的AI實驗室——包括OpenAI、Google和Meta——一直在密切關注這場爭端。許多AI領袖現在認為，他們將需要向白宮提供其最新模型的早期存取權限，並極度主動地分享有關即將推出產品的資訊。他們表示，讓官員措手不及的風險實在太大了。

「提前通知、提前存取。我認為這是我們聽到的核心要求，不僅來自美國，還來自全球其他國家，」加拿大AI實驗室Cohere的CEO Aidan Gomez在本週稍早的一次採訪中表示。「我認為從很多方面來看，這些都是好事。這顯示當局對一項極其重要的技術展現出強烈的參與和考量。」

這場爭端本週也在法國舉行的G7峰會上成為重要話題，川普總統表示與Anthropic的談判「進展順利」，但未提供細節。Anthropic CEO Dario Amodei呼籲世界領袖抵制在AI監管方針上各自為政的誘惑。

本文僅供資訊參考，不構成投資建議。