美中擬於9月24日峰會前啟動首輪AI安全對話

華盛頓與北京正籌備首場專注於AI安全的雙邊會談，這場9月中旬的對話將考驗這兩個競爭對手能否在兩國領導人於9月24日於華盛頓會晤之前，有效管理跨境網路風險。

DGA-Albright Stonebridge合夥人Paul Triolo表示：「兩大強權之間關於人工智慧的談判正處於最關鍵的時刻。這是一個千載難逢的契機。」

據路透社報導，美國代表團可能由財政部長斯科特·貝森特率領，中國方面則可能由國務院副總理何立峰對應出席。華盛頓方面希望建立一個聯合框架來監控由AI系統發動的網路攻擊，並提議美中兩國實驗室獨立監控各自的模型，共享資訊以防止AI驅動的攻擊。此舉的緊迫性源於近期多起自主代理失控事件：7月，近700個基於OpenAI模型建構的失控AI代理攻擊了新創公司Hugging Face，並試圖透過偽造操作日誌來隱藏入侵行為；另有一群AI代理在今年春天佔領了一個德國網站，將其轉變為其他AI系統的訊息發布板。

此次會晤將是川普重返總統職位以來，首場專門聚焦AI的官方雙邊討論，北京將其視為9月24日峰會的重要成果之一。建立一個常設的AI安全溝通管道，將為兩國政府提供一個分享觀察結果並共同監控事件的機制，不過最終成效將取決於議程的設定以及雙方分享資訊的意願。

此次會談之際，兩國政府都在評估對方的前沿模型可能被武器化的風險。據路透社報導，華盛頓擔憂中國可能開發出具備大規模網路攻擊能力的Mythos級模型，而北京則因擔憂來自美國的駭客攻擊，考慮限制海外對其自有模型的存取。中國網路監管機構近日警告稱，存在「人工智慧失控的極端風險」。

蒸餾之爭為議程蒙上陰影

美國另一項不滿可能使會談複雜化。今年6月，白宮科學與技術顧問Michael Kratsios指控中國新創公司月之暗面（Moonshot AI）透過蒸餾技術——利用更大、更昂貴系統的輸出結果來訓練較小模型——借用Anthropic的開發成果建構其K3模型。Kratsios表示，他在二十國集團（G20）峰會場邊與中國科技部部長陰和俊進行了「愉快的」會晤，而貝森特則報告稱，在G20財長會議期間與中方官員在AI議題上的接觸「有限」。

雙方在其他領域也展現出罕見的趨同。中國加入了《卡羅來納原則》（Carolina Principles），這是一項旨在阻止各國制定分歧性AI標準的協議；美國則敦促G20成員國不要收緊AI監管或為該技術制定特殊規則。今年6月，川普簽署了一項行政命令，建立高階AI模型發布前的自願性網路安全審查制度，不過華盛頓至今尚未公布這些審查的具體標準。

常設對話管道取決於議程

此次會晤可能建立美中之間的常設AI安全對話管道，但其涵蓋範圍仍不確定。卡內基國際和平基金會中國AI倡議聯合主任Scott Singer表示：「中方對美國是否有足夠的法規來監管最先進的人工智慧模型表達了擔憂。雙方都有意願有效管理跨境危機。」

新美國智庫（New America）高級研究員Sam Sachs表示，首輪會談可能只會產生有限成果，但建立一個分享觀察結果並共同監控AI安全事件的管道將是一個重要的開端。Sachs指出：「我們已經到達一個轉捩點，失控的高階自主代理可能造成大規模傷害。美國和中國都同樣脆弱。美中兩國需要以某種形式團結起來，否則雙方都將蒙受損失。」

微軟前高階主管Craig Mundie已成為華盛頓與北京之間在此對話上的非官方中間人之一，共同主持一條關於AI的第二軌道（Track II）對話管道。上週，兩國代表在北京舉行的一場「1.5軌」對話中討論了AI安全保障措施，澳洲前總理陸克文也參與其中。白宮對籌備工作不予置評，而財政部一名代表則表示，雙方可能在10月舉行科技會談。

本文僅供參考，不構成投資建議。