加州成為全美首個強制要求 AI 安全揭露的州,並明言可推翻聯邦採購決定
加州州長 Newsom 簽署第 N-5-26 號行政命令,要求 AI 供應商公開 CSAM 防制、公民權利及反歧視政策,方可取得州政府合約。命令更授權加州獨立推翻聯邦政府的 AI 供應鏈風險認定,與川普政府直接碰撞,為美國 AI 治理的聯邦─州關係帶來深遠影響。
加州打響了一場注定曠日持久的聯邦—州 AI 治理主權之爭的第一槍。州長 Gavin Newsom 於 3 月 30 日簽署第 N-5-26 號行政命令,使加州成為全美第一個以強制 AI 安全揭露作為政府採購條件的州——並明確保留推翻聯邦政府 AI 廠商風險認定的權力。
時機選擇意味深長。川普政府已系統性地拆解拜登時代的 AI 安全框架:廢止第 14110 號行政命令、退出全球 AI 安全夥伴關係,並裁撤 NIST 下屬的 AI 安全研究所。加州的命令直接打臉這一路線,宣告美國經濟規模最大的州將不顧聯邦政策走向,自行制定 AI 治理標準。
命令的具體要求
這項行政命令對尋求加州州政府合約的 AI 供應商設立了多項具體義務:
安全政策揭露: 業者必須公開其防制兒童性剝削素材(CSAM)生成的政策、民權法規遵循情形、模型輸出的反歧視措施,以及訓練資料來源透明度。這些揭露每年須更新,並提供給州政府採購人員查閱。
浮水印標準: 命令要求加州各技術機構在所有政府採購的生成式 AI 工具中採用 AI 輸出浮水印最佳實務,涵蓋文字、圖像與音訊生成系統。
獨立評估聯邦風險認定: 最具爭議性的條款是,命令要求加州首席資訊安全官(CISO)獨立審查聯邦政府發布的任何 AI 供應鏈風險認定,並保留推翻聯邦決定的權力——可批准加州與聯邦政府列入黑名單的 AI 廠商簽約,也可拒絕與聯邦政府核可的廠商合作。
公共 AI 助理: 命令要求開發一套對外公開的政府 AI 助理,幫助加州居民使用州政府服務,並嚴格規範資料最小化與用戶隱私保護。
與聯邦政府的正面交鋒
供應鏈風險獨立認定條款是法律爭議最大的部分。川普政府一直在擴大使用實體清單與供應鏈風險框架,限制哪些科技廠商可取得政府合約——這項權力既已用於中國企業,也曾指向部分被認為與政府優先方向不符的美國公司。
加州的命令主張,州政府採購決定屬於州主權範疇,聯邦政府無法強迫加州採用其廠商風險認定。法律學者對這一立場的有效性看法分歧。聯邦採購法與國家安全法規確實賦予聯邦政府對聯邦資助計畫供應鏈的廣泛權力;但加州每年約 3,200 億美元的州預算規模超過許多國家,且州政府每年有數十億美元的 AI 與科技服務合約完全由州稅收支應。
「加州基本上是在說:如果你想賣 AI 給全美最大的州經濟體,就得遵守我們的規則,而不是華盛頓的規則,」一位熟悉該命令的科技政策律師說。「即使這一法律立場最終在法院受到考驗,這對市場仍是重大訊號。」
對 AI 廠商的影響
對主要 AI 實驗室而言,這項命令新增了法遵義務,並可能在聯邦與州政府業務之間製造裂縫。Anthropic 擁有大量美國國防部合約,可能面臨聯邦機構標記其模型為安全審查對象、同時加州積極尋求與其簽約的矛盾情境。OpenAI、Google 與微軟在加州州政府都有重要業務往來,如今將須承擔更多揭露要求。
較小的廠商則面臨不同的盤算。訓練資料來源與民權法規遵循等揭露要求帶來的文件管理負擔,大型企業尚可吸收,但對規模較小的 AI 新創而言可能是沉重挑戰。產業公會已開始遊說 Newsom 辦公室,希望建立以合約金額為基準的分級法遵框架。
浮水印要求引起 AI 偵測公司的特別關注。加州強制規定所有州政府 AI 採購遵守浮水印最佳實務,實際上為浮水印驗證工具創造了現成市場,並建立了其他州可能跟進的模板。
加州的 AI 監管趨勢引領者地位
這並非加州首次在聯邦行動之前搶先制定 AI 標準。《加州消費者隱私法》(CCPA)在任何聯邦隱私立法成形之前,就已有效塑造了美國的資料隱私規範。加州立法機構也正在推進 SB 1047 的後續法案,擬對基礎模型開發者課以損害賠償責任。
加州能否在聯邦施壓下維持 AI 治理自主,是一個懸而未決的問題。川普政府已表明,將各州的 AI 法規視為統一全國 AI 戰略的障礙。司法部據報正在評估加州的供應鏈風險獨立認定條款是否牴觸聯邦法規。
但就目前而言,加州已清楚表明立場:AI 安全不容妥協,即使華盛頓對此有不同定義。對加州 3,900 萬居民與數百家灣區及洛杉磯的 AI 公司而言,這項命令代表著政府 AI 部署規則的重大轉變。
後續發展
觀察者正在觀望其他大州是否跟進。紐約、伊利諾與科羅拉多州都有 AI 治理立法正在推進中。據報導,已有數位來自這些州的政府採購官員向加州技術機構申請就 N-5-26 號命令的實施細節進行簡報。
在聯邦層面,這項命令很可能加速聯邦優先原則(preemption doctrine)在 AI 監管領域的推進——即聯邦法律凌駕各州相互衝突規定的法律機制。AI 產業的全國性行業協會長期以來尋求聯邦優先,以避免五十個州各行其是的監管拼圖。加州的行政命令大幅提高了這張拼圖的賭注,也讓優先權之爭更加迫切。
對整體 AI 生態系而言,加州的命令再次提醒業界:在缺乏連貫聯邦 AI 政策的情況下,監管真空終將由各州、法院或產業自律來填補。前沿模型論壇的反蒸餾攻擊聯盟與加州的採購命令,從不同角度回應著同一個根本不穩定性——AI 遊戲規則仍在書寫中,而愈來愈多時候,是各州率先落筆。