跳至主要內容
FAQ

2026年AI安全指數:沒有一家公司拿到A,各大實驗室正悄悄撤回承諾

生命未來研究所(FLI)2026年夏季AI安全指數評估了九大AI實驗室——沒有任何一家獲得A或B。Anthropic以C+奪得最高分,OpenAI與Google DeepMind獲C,Meta僅獲D+,而xAI、DeepSeek與Mistral則直接不及格。報告記錄了一個令人憂慮的趨勢:包括Anthropic在內的多家頂尖實驗室正逐步撤回此前的安全承諾,Anthropic更在2026年2月撤銷了一項關鍵的模型訓練保證。

1 分鐘閱讀

生命未來研究所(Future of Life Institute)每年發布兩次AI安全指數,而2026年夏季版本帶來一個難以粉飾的裁決:全球九大AI實驗室——合計市值數兆美元、每日服務數億用戶的企業——沒有一家達到評估標準的及格線。最高分C+由Anthropic獲得;四家實驗室直接不及格。

這份指數並非邊緣文件。它由獨立研究者組成的評估程序編制,依據公開承諾、揭露文件、事故報告與實驗室行為,涵蓋六個評估維度。其方法論固然可以質疑,但已在政策圈獲得廣泛認可,並成為華盛頓到布魯塞爾監管討論的參照基準。

成績單

本次評估的九家企業為:Anthropic、OpenAI、Google DeepMind、Meta、Z.ai(智譜AI更名後)、阿里雲、xAI(馬斯克的AI公司)、DeepSeek與Mistral。評分如下:

  • Anthropic:C+
  • OpenAI:C
  • Google DeepMind:C
  • Meta:D+
  • Z.ai:D-
  • 阿里雲:D-
  • xAI:F
  • DeepSeek:F
  • Mistral:F

六個評估維度分別為:風險評估、當前傷害緩解、安全框架、存在性安全、治理與責任,以及透明度與溝通。沒有一家公司在所有維度均有亮眼表現。Anthropic的相對優勢在於安全框架與存在性安全;相對弱項是當前傷害緩解與透明度。OpenAI的表現輪廓與之相近。中國與歐洲實驗室不及格,主因是治理、透明度與安全框架維度的嚴重不足。

承諾倒退問題

報告最實質的發現——也是引發最多討論的部分——並非分數本身,而是它所記錄的承諾倒退模式。

自2023年起,主要AI實驗室紛紛發表公開聲明,明確列出某些不予涉足的工作範疇:在缺乏充分安全保證的情況下訓練系統、支援軍事應用、在沒有適當保護機制下部署可能造成重大危害的系統。這些承諾大多是在監管出現之前自願作出的,部分已被納入首爾AI安全聲明等政府間協議。

2026年版指數記錄:這些承諾幾乎全數已被悄然弱化或撤回。Anthropic、OpenAI、Google DeepMind與Meta——這些曾明確表態拒絕軍事應用的公司——此後均轉而積極尋求國防合作。在美國與歐洲國防機構名列AI最大採購方的當前環境下,商業誘因顯而易見。

報告最具體點名的最重大撤退,是Anthropic的案例。2026年2月,公司撤回了此前的承諾——即不在無法事先保證安全措施充分的情況下訓練AI系統。這項承諾內部稱為「憲法AI訓練承諾」,一直是Anthropic有別於競爭者的核心差異化標誌。其撤回並非主動公告,而是由研究者監控公司政策文件時發現的。

Anthropic代表辯稱,隨著模型能力提升,這項承諾在操作上已難以執行——要達標意味著完全放棄前沿AI研究。安全倡議者則反駁:這恰好證明承諾從一開始就缺乏實質意義,或揭示公司的商業壓力已凌駕於安全文化之上。

C+究竟代表什麼

有必要具體說明「最佳標竿」在這份評估中的意涵,因為很容易將Anthropic的C+解讀為認可,但事實並非如此。

C+反映了真實的相對優勢:Anthropic擁有比競爭者更成熟的安全評估框架、發布更詳盡的政策文件、維護最明確的模型卡揭露,並在可解釋性研究上投入遠超同業的資源。這些是真實存在的差異,在邊際上確有意義。

C+同時也反映了:宣稱的抱負與可驗證的問責機制之間存在根本落差。Anthropic與競爭者一樣,沒有對安全關鍵決策擁有實質授權的獨立董事會,沒有具執法效力的外部稽核制度,也沒有發布訓練事故報告的法律義務。其安全評估大部分由公司自身的安全團隊執行——而這個團隊的資深成員,正是被評估公司的受薪員工。這種自評的循環性並非Anthropic獨有,適用於整個業界。但這意味著評估者難以核實公司對自身實踐的陳述。

不及格的實驗室

xAI、DeepSeek與Mistral的F,反映的是結構性而非僅技術性的缺陷。三家公司均僅有極少的公開安全文件。沒有任何一家在部署前發布任何類似潛在危害評估框架的內容。DeepSeek——這家以2025年2月V3版本震撼西方AI市場的中國實驗室——一貫拒絕參與國際安全準則討論。

Mistral的不及格或許是最令人矚目的,考量到它的歐洲出身,以及其所處的監管環境。EU AI Act對高風險AI系統的供應商設有合規義務,Mistral的旗艦模型在適用範圍之內。然而指數發現,Mistral的安全文件與治理結構在所有受評公司中屬於最薄弱之列。歐洲監管機構私下已注意到這個缺口;AI Act的執法機制能否填補它,仍有待觀察。

治理的缺口

這份指數的更大論點——隱含於評分卡中,但在分析章節中明確陳述——是:當前AI安全的自律模式正在失效。擁有最佳安全文化與最精密評估框架的實驗室(Anthropic與OpenAI)仍獲得以任何標準衡量都屬不及格的成績。安全文化最薄弱的實驗室則在本國市場幾乎不受約束地運作。

有意義的治理應當是什麼樣貌?指數未明確規定政策,但其框架隱含幾項要素:具有真實存取模型權重、訓練程序與事故記錄的獨立第三方稽核;負面發現的強制揭露;建立對已記錄安全失誤的法律責任框架;以及防止監管套利的國際協調。

這些機制目前均不以有效規模存在。EU AI Act對通用AI模型設有若干揭露要求,但執法進展緩慢,問責機制仍大多未受考驗。美國依賴自願承諾——而這份指數記錄了這些承諾並未兌現。

業界的回應

主要實驗室以結合參與與迴避的方式回應。Anthropic承認了C+的結果而未質疑方法論,稱其為「有益的外部視角」,同時指出不同意某些評分標準的權重設定。OpenAI發布類似聲明,強調持續進行中的安全工作。Meta未公開回應。獲得F的實驗室——xAI、DeepSeek、Mistral——均未發表評論。

獲F實驗室的沉默本身即是訊息。在一個學會以精密公關策略管理聲譽風險的行業,對已發布的安全評估選擇不回應,是這些組織對公共責任的優先排序方式的一種表態。

為何此刻格外重要

這份指數的發布時間並非偶然。AI系統的能力比任何一次以前的評估都更強大,在醫療、法律、金融、教育、安全等關鍵場景的部署規模更廣,在企業與政府工作流程中的嵌入也更深。隨著能力的提升,安全的賭注也在上升。

歷次指數所記錄的軌跡,才是最令人擔憂的發現:不僅是實驗室未能達到自身標準,而是它們所宣稱的標準本身正在下滑。若安全承諾恰好在AI系統強大到足以讓這些承諾真正發揮作用時最快速地侵蝕,那麼本應在這個轉折點撐住防線的治理框架,反而正在AI繁榮的商業壓力下讓步。

這才是最值得關注的發現,無論你如何分配那些英文字母等第。

AI安全 Anthropic OpenAI Google DeepMind Meta 生命未來研究所 AI治理
分享

相關報導

FTC提案:刻意扭曲AI輸出結果卻不告知用戶,可能違反聯邦法律

美國聯邦貿易委員會(FTC)於2026年7月7日在《聯邦公報》發布擬議政策聲明,警告AI公司若在未向消費者揭露的情況下刻意操縱其系統輸出、追求特定意識形態目標,可能構成違反《聯邦貿易委員會法》第5條的欺騙行為。公眾意見徵集期限至7月31日,此案標誌著FTC對AI透明度問題採取迄今最強硬的監管立場。

1 分鐘閱讀