美國政府用ChatGPT審查醫療補助——卻未公布AI錯誤率

在華盛頓某處，一個大型語言模型正在閱讀各州五年來的醫療補助審計報告。它在尋找長期不合規、重複性缺失，以及重大控制缺陷。一旦發現，其結論可能觸發聯邦行動——扣押醫院、州政府機構和非營利組織的聯邦資金，而這些機構共同服務數以百萬計的美國人。做出這些判斷的工具，是美國衛生及公共服務部（HHS）部署的ChatGPT。截至本文撰寫時，HHS尚未公布其錯誤率。

這就是AERO計畫——審計執法與風險監督（Audit Enforcement and Risk Oversight）。HHS於2026年5月21日在川普政府推動運用AI識別和追回聯邦資金的整體框架下啟動這一計畫。這是迄今美國政府任何一個部門對商業AI最具實質影響力的部署之一，卻在幾乎完全缺失政府自身AI政策所要求的透明度和問責機制的情況下推進。

計畫規模

AERO分析《單一審計法》合規紀錄——凡是在某一年度聯邦支出達到75萬美元或以上的州政府及聯邦補助受益方，均需提交的正式年度審計。這些審計涵蓋幾乎所有州級醫療補助計畫，以及研究、公共衛生、成癮服務、住房和教育等領域的大量聯邦補助受益方。

規模之大令人震驚。僅醫療補助一項，每年聯邦和州政府支出即達約9,000億美元。通過《單一審計法》報告義務涵蓋的計畫，年度撥付總額高達數兆美元。AERO實際上是一個AI系統，正在對全球可能規模最大的政府審計支出池進行即時風險評估。

根據公開文件和多家媒體報導，AI系統識別出顯示不合規的模式，並將其提交執法行動，後者可包括暫時扣押聯邦付款、追回所謂使用不當的資金、暫停未來補助，乃至終止聯邦資金關係。系統本身不做最終法律裁定——人類官員保留正式決策權——但它正在作為主要分析層，決定哪些機構接受審查、哪些不受關注。

缺失的透明度

問題在於HHS沒有披露什麼。截至2026年6月下旬，該機構尚未公布：

• AI系統在審計分類任務上的錯誤率
• 識別不合規模式的方法論
• 觸發執法轉介的具體標準或門檻
• 系統如何處理模糊或邊界案例
• 認為自己被錯誤標記的機構可用的申訴程序
• 執法行動實際導致資金扣押的時間表

這些缺失至關重要，因為誤判的代價十分嚴重。若AERO錯誤標記某州醫療補助計畫或聯邦資助醫院為不合規，潛在後果是聯邦資金扣押——這將干擾為弱勢群體提供的醫療服務。系統裁決的不是停車罰單，而是可能連鎖導致依賴這些機構提供服務的社區失去資金的風險判斷。

資金後果並非假設。川普政府已對加州扣押逾10億美元醫療補助資金，對明尼蘇達州扣押數億美元——這些行動是在官員將其定性為管理失當的審計審查基礎上採取的。AERO的AI分析是否是觸發上述扣押的部分原因，目前尚未公開確認，但AERO部署時間線與隨後資金行動的關聯，已引發醫療政策研究人員和民主黨州政府官員的審視。

它可能正在違反的法規框架

政府自身的AI政策已建立了一個似乎直接適用於AERO的框架。行政管理和預算局的備忘錄M-25-21要求，各機構在對個人或機構產生重大後果的應用中部署AI時，必須實施最低限度的風險管理措施。這些措施包括：部署前測試、記錄系統局限性，以及為受影響方提供可及的人工審查程序。

該備忘錄要求各機構在2026年9月前向OMB報告其合規情況。HHS是否已對AERO完成所要求的部署前測試，或能否證明系統已在合規執法的審計分類這一具體任務上得到驗證，目前均不公開。

正當程序的影響超越行政法範疇。最高法院和下級法院已確立：當政府行動可能剝奪一方的財產——聯邦資金無疑屬於財產——第十四條修正案的正當程序條款要求提供有實質意義的通知和陳述機會。當執法行動的分析依據是一個方法論未經公開的不透明AI系統時，所形成的程序是否滿足憲法要求，存在真正的法律疑問。

代表醫療服務提供者和州政府的多個法律倡導組織，已就上述顧慮致函HHS。至少有一個州醫療補助機構表示，若在僅憑AI分析的情況下發生資金扣押，可能提起行政或司法挑戰。

更大的圖景

AERO並非孤例。川普政府已積極將AI工具部署到聯邦政府職能的多個領域，包括移民執法篩查、社會保障殘疾認定審查、聯邦僱員績效評估，以及現在的醫療合規執法。在每一個案例中，部署速度都快於AI政策文件所要求的透明度和問責框架的到位速度。

這種模式折射出當前政府在政府AI上的一個結構性張力。AI部署的效率和規模論點引人信服：聯邦政府在50個州和數十萬名補助接受方之間管理極度複雜的計畫，能夠識別高風險案例並優先排序以供人工審查的AI系統確有真實價值。

但同樣的規模，也放大了系統性錯誤的後果。一名做出錯誤判斷的人類審計員，影響的是他親自審查的案例。一個誤報率為5%的AI系統，在全美50州醫療補助計畫中規模化部署，將系統性地產生誤報執法行動——影響真實的機構、真實的資金流，以及依賴這些機構提供服務的真實人口。

問責制應如何落實

在政府執法場景負責任部署AI的路徑，在技術上並不神秘。幾個核心要素已相當清晰：

部署前驗證：在部署前就具代表性的案例對系統準確率進行測試，並向監管機構和公眾公開結果。FDA對用於醫療器械監管的AI適用這一原則；醫療計畫合規執法AI的類似標準似乎不言而喻。

持續監測：追蹤部署後的系統表現，包括錯誤率、申訴結果，以及對不同類型受益方和各州的差異性影響分析。公開展示上述指標的儀表板，可讓外部研究人員和監管機構在問題累積之前識別它們。

強制人工審查：對超過重要性門檻的執法行動，要求在發出資金扣押通知前記錄人工對AI分析的審查。將人工審查作為正式步驟——而非理論上的可能性——才是將AI輔助執法轉化為具有實質問責的AI增強執法的關鍵。

可及的申訴程序：為受影響機構提供清晰、及時的機制，以挑戰AI輔助裁定，並附有關於AI具體標記內容及理由的具體資訊。

上述要求都不是難以承受的負擔。它們要求的，是讓AI部署帶來的效率收益在政府和被管理者之間共享——而非由政府完全截取效率紅利、同時讓錯誤的風險完全由被監管機構承擔。

AERO很可能在發現真實的合規失誤。鑑於聯邦醫療計畫支出的規模，幾乎可以確定確實如此。問題不在於AI能否改善政府監督——它顯然可以。問題在於：一個有權在全州範圍內擾亂醫療資金的系統，是否應在不公開其實際準確率的情況下運作。