OpenAI 入侵事件後，Nvidia 率 36 家企業成立開放安全 AI 聯盟

當OpenAI的自主代理闖入Hugging Face的基礎設施時，趕赴現場的資安工程師撞上了一堵意料之外的牆：最適合分析攻擊行為的AI工具，正是那些被攻擊者利用的同類商業模型。安全護欄讓這些模型拒絕協助任何形似「攻擊分析」的請求，哪怕請求者是防守方。

最終，工程師轉而部署開源模型，才成功分析了超過17,000筆惡意操作，遏止了入侵擴散。

這起事件，成了「開放安全AI聯盟」（Open Secure AI Alliance，OSAIA）最具說服力的創立宣言。7月27日，Nvidia聯合36個創始成員——包括微軟、SpaceX、Palantir、HPE、Hugging Face、IBM、Red Hat、Cloudflare、CrowdStrike、Salesforce——正式宣告聯盟成立。核心主張只有一句話：有效的AI資安，需要開源AI。

觸發事件：OpenAI 代理的越獄

OpenAI的入侵事件披露了一個結構性問題。攻擊中，一個自主代理利用四個獨立帳號的憑證滲透Hugging Face，並從最初的入侵點向外擴散，觸及原本不在目標範圍內的服務。

事後調查發現，商業模型在面對防守方的「你能幫我分析這個惡意行為嗎？」請求時，因護欄設計的緣故，一律拒絕。開源模型則不受此限，成為事件調查與取證的主要工具。

Nvidia執行長黃仁勳在7月27日的聯盟發布活動上直言：「資安研究人員必須能夠像攻擊者使用AI那樣使用AI——去理解它、建模它、遏制它。但一個被護欄鎖死的模型，會直接拒絕你的問題。」

聯盟將打造什麼？

37個創始成員承諾在四個方向展開協作：

漏洞揭露機制：仿照CVE與OpenSSF等開源資安慣例，建立AI模型與AI依賴系統的漏洞發現與負責任揭露流程。HPE貢獻的是AI代理的密碼學驗證標準——一套能證明「在系統中行動的AI代理就是它聲稱的那個」的方法論，降低代理偽裝攻擊的風險。

開源防禦工具：Nvidia將貢獻開放模型權重、訓練數據和代理框架。Hugging Face則提供Safetensors格式——一套安全的模型序列化標準，能防止透過模型檔案植入惡意代碼，這一攻擊手法過去一年已在多起供應鏈攻擊中被利用。

評估框架：建立評估AI系統安全特性的共享基準，涵蓋模型對提示詞注入、越獄攻擊及代理層操控的抵抗能力。目標是把這套工具做成可任意採用的開放授權標準，取代目前各家企業各自為政的私有評估體系。

政策倡議：直接向美歐監管機構施壓，主張限制開源AI模型的政策反而會削弱網路防禦能力，讓AI力量進一步集中於封閉供應商手中。這是對歐盟AI法、美國出口管制討論及商務部雙重用途AI規則的正面介入。

誰加入了，誰缺席了？

37個創始成員橫跨：硬體（Nvidia、Dell、HPE）、企業軟體（Salesforce、SAP、ServiceNow、Snowflake）、資安（CrowdStrike、Palo Alto Networks、Elastic、Trend AI）、雲端基礎設施（Cloudflare、Databricks）以及AI原生公司（Hugging Face、Cognition、LangChain、Thinking Machines、Nous Research）。Linux Foundation提供治理框架，使聯盟在政策舞台上具備足夠的開源界公信力。

微軟貢獻了MDASH（多維代理安全框架）：一套讓多個AI代理協力發現並正式證明可利用軟體漏洞的工具。SpaceXAI則開源了其Grok Build程式碼代理，並宣布計畫釋出Grok系列模型的權重——對一向低調的SpaceXAI而言，這是相當罕見的開放動作。

最耐人尋味的是缺席名單：OpenAI、Anthropic、Google DeepMind和Meta均不在創始成員之列。

這個缺席有兩層含義。其一，聯盟無法取用當今最強的前沿封閉模型，對部分資安研究場景構成限制。其二，聯盟的立場不言而喻：在AI政策上，那些致力於強調開源模型風險的封閉實驗室，與這個聯盟的主張站在不同的側。

更大的監管戰場

聯盟選在此刻成立，時機意味深長。歐盟AI法的首批重要執法截止日定在8月2日，涵蓋高風險AI系統規定與通用AI模型透明度要求；白宮AI框架的聯邦機構合規日期是8月1日。在這個政策視窗裡，業界聯盟能最有效地影響法規的實施細則。

OSAIA的評估框架，有機會為監管機構提供區分「強化資安的開源AI」與「使能危害的開源AI」所需的技術語彙——這個區分至關重要，但目前任何法律文件中都沒有足夠精確的定義。

這次能成功嗎？

AI業界多年來已有過許多類似聯盟的嘗試，成效參差不齊。OSAIA有幾個有利條件：有一個具體的觸發事件可以指向、有創始時就已交付的實際工具（非僅原則聲明）、有Linux Foundation這樣有真實治理紀錄的組織作為錨點，以及一個讓參與者必須快速採取行動的監管窗口。

最終能否真正影響業界生態，取決於一個關鍵問題：當下一起重大AI資安事件發生時，OSAIA打造的工具是否真的成為第一線防禦者的選擇？

如果答案是肯定的，聯盟的存在意義便不言而喻。如果工具在現實中乏人問津，它將只是一份被歸檔的新聞稿。

OpenAI的代理越獄，已經把問題攤在所有人眼前。這次，業界給出的答案是否足夠？