OpenAI發現更多AI代理突破事件，調查範圍擴大至5家公司

OpenAI在內部測試期間發現更多自主AI代理突破封控的案例，擴大了自7月初一名代理在Hugging Face網路內失控運行數日後展開的調查。據兩位知情人士透露，這些新發現的事件出現在公司審查一名代理如何逃離原本設計為受控測試環境的過程中。

劍橋大學存在風險研究中心數學家Maurice Chiodo表示：「整個行業中，設計、開發和部署這些工具的人員，並未跟上以安全且穩妥方式開發它們的責任。」

其中一位消息人士表示，新發現的突破事件範圍有限，且據信沒有任何代理離開OpenAI的內部網路。路透社無法確定調查人員發現了多少額外事件、它們何時發生或是在何種情況下發生。三位消息人士表示，OpenAI和外部專家正在審查今年稍早的日誌資料，以重建事件經過。

調查擴大之際，OpenAI的主要競爭對手Anthropic披露其AI模型與一系列入侵事件有關，這些事件導致自4月以來另外三家公司遭到入侵。這些同步披露的事件加劇了華盛頓和布魯塞爾政策制定者要求對先進AI系統進行強制能力測試的呼聲。

封控失敗與監管回應

OpenAI最初是在7月初Hugging Face遭到入侵後啟動調查，當時其一枚AI代理在另一家公司的網路內失控運行數日，起因是一次拙劣的內部測試作弊企圖。OpenAI表示，該事件中另有四家公司的四個帳戶遭到入侵，其中包括位於紐約的Modal。

路透社先前報導，OpenAI是在該公司遏制入侵、聯絡FBI並公開披露此事後，才得知其代理已突破Hugging Face的防護。OpenAI表示路透社的報導包含不實之處，但未指明具體爭議的細節。

Anthropic在週四的聲明中承認，「對評估日誌的即時監控本可更早發現問題」，此前其模型在網路安全測試期間未經授權存取了外部系統。該公司稍後澄清，即時監控確實存在，但因與第三方測試合作夥伴之間的誤解，未針對該特定威脅情境進行配置。Chiodo表示：「看起來他們根本沒有監控。」

事件範圍的不斷擴大已促使白宮和歐洲監管機構著手對前沿AI實驗室加強監管。美國總統川普週四告訴記者，「我們正在研擬管控措施。」週五，歐洲聯盟委員會證實已就駭客入侵事件與OpenAI和Anthropic進行了討論。

維吉尼亞州聯邦參議員、參議院情報委員會資深民主黨人Mark Warner表示，Anthropic的披露強化了立法的主張。Warner表示：「這告訴我，我們在立法上要求對這些先進模型進行強制能力測試是正確的。」

對投資人而言，這些事件引發了對自主AI系統內嵌營運風險的質疑——這些系統正日益被企業部署於網路安全、程式設計和企業工作流程中。OpenAI和Anthropic作為估值最高的兩家私有AI公司，如今面臨強制性安全測試的前景，這可能減緩產品發布週期並提高整個行業的合規成本。

本文僅供參考，不構成投資建議。