美國衛生部用 ChatGPT 稽核全美 50 州醫療補助，卻未公布 AI 錯誤率

5 月 21 日，美國衛生及公共服務部（HHS）悄然推出了一項影響深遠的聯邦執法計畫：部署 ChatGPT 掃描全國各州醫療補助機構、非營利醫院體系以及聯邦醫療資助對象在過去五年提交的合規稽核報告，鎖定潛在的詐欺與浪費行為。這項計畫名為 AERO（稽核執法與風險監督），其處置結果可從暫停撥款一路延伸至永久取消聯邦計畫資格。但有一件事 AERO 始終未做：公布這套 AI 系統的準確率。

這個落差——所行使的執法權力之廣，與執法工具之不透明——正是這場爭議的核心所在。爭議如今已延伸至國會、醫療倡議團體，以及多個正密切關注首批執法行動落地的州檢察長辦公室。

AERO 的運作方式

AERO 計畫由 HHS 財務資源助理部長 Gustav Chiarello 主導，於 5 月下旬向 HHS 內部公布。任務範疇是：使用 ChatGPT 和其他大型語言模型工具，分析所有年度聯邦撥款金額達 100 萬美元以上機構所提交、至少五年的《單一稽核法》（Single Audit Act）合規記錄。

受稽核範疇涵蓋州政府醫療補助機構、非營利醫療服務機構、公立醫院體系、聯邦認可的基層醫療中心、接受聯邦研究補助的學術醫學中心、啟蒙教育計畫（Head Start）以及成癮治療機構。加總起來，這代表每年數千億美元的聯邦醫療支出，以及全美 50 州數以千計的組織。

AI 系統的任務包括：閱讀稽核報告敘述、識別反覆出現的合規問題、標記可能指向系統性問題的模式，並排定需要強化人工審查的機構優先順序。對於未能通過後續審查的機構，執法後果包括暫停醫療補助撥款——這可能凍結仰賴這筆款項維持營運的偏遠地區醫院的現金流——以及最嚴重情況下，永久取消聯邦計畫資格。

準確率問題：核心爭議

爭議的核心，在於 HHS 始終未公布用於做出上述判定的 AI 系統錯誤率。

這個問題有其具體的技術意涵。在醫療執法情境中，「假陽性」——將實際合規的機構標記為可能違規——並非中性結果。它會觸發一連串調查程序，要求機構備齊文件、聘請法律顧問並投入大量行政資源。對於原本就在薄利邊緣運作的小型基層醫療中心或偏遠地區醫院而言，光是初步標記所帶來的合規負擔，就可能造成財務衝擊。

HHS 迄今也未公開以下資訊：所使用的 ChatGPT 具體版本與模型規格；所採用的提示工程方法論或微調方式；在啟動執法行動前，AI 標記結果是否經過人工審查，以及審查流程為何；以及機構認為遭到錯誤標記時的申訴管道。

截至 7 月 13 日，TechTimes 報導指出：「聯邦政府正在使用 ChatGPT 做出可能凍結全美醫院、非營利組織和州機構醫療補助撥款的執法決定——而迄今未公布該工具的錯誤率、揭露其方法論，也未說明資金實際將在何時遭到削減。」

法律與監管爭議

AERO 援引的是 HHS 在《單一稽核法》下的既有執法權，因此不需要新的立法授權。HHS 將其定位為提升效率的措施：面對大量積壓未審的稽核報告，以 AI 進行分類排序，是應對資源限制的合理回應。

然而，AI 在聯邦執法情境中的應用，正觸碰一個日益敏感的行政法領域。《行政程序法》要求聯邦機構在對法規執行方式進行實質性改變時，依循公告與公眾評論程序；AERO 是否構成此類改變，行政法學者之間尚有爭論。聯邦貿易委員會（FTC）近期在商業 AI 準確性方面發布的政策聲明，雖不直接適用於聯邦機構，但已建立起批評者援引的規範標竿。

國會與各州的回應

奧勒岡州參議員 Ron Wyden 於 6 月下旬致函 HHS 部長，要求在任何源自 AI 標記判定的執法行動定案之前，公開 AERO 的準確率指標、AI 模型規格與申訴流程。此後，跨黨派的八名參議員聯署跟進，要求暫停執行 90 天，待方法論公開後再推進。

加州、紐約州和伊利諾伊州等地的州檢察長已啟動調查，研究 AERO 的運作是否干預各州醫療補助計畫的管理，尤其是聯邦 AI 標記結果是否凌駕於州級合規判定之上。

美國醫院協會、全國非營利組織委員會及多個聯邦基層醫療中心倡議團體，已相繼公開呼籲暫停 AERO 執法行動，直至 HHS 公布驗證資料。

更深層的治理問題

AERO 並非聯邦 AI 執法的孤例。勞工部已試行 AI 輔助的退休金稽核分類，小企業管理局部署 AI 審查 PPP 貸款申請，美國國稅局也已使用 AI 進行退稅異常偵測多年。

讓 AERO 與眾不同的，是其執法權力的規模以及可觸發的直接經濟後果。醫療補助撥款暫停並非可以纏訟多年的罰款；它可能在數週內中斷支付臨床員工薪資的現金流。AI 標記執法的速度與規模，與應當隨之配套的人工審查和申訴機制的速度之間，存在根本性的不對稱，這正是 AERO 製造的核心治理問題。

政策專家指出了更深的諷刺之處：AI 被用來執行原本設計由具備情境判斷力的人類稽核員所驗證的合規標準。一個 AI 系統在閱讀合規報告時，並不知道某項內部控制問題早已透過事後提交的改善行動計畫獲得解決。這套系統是否能處理這類文件層面的情境，以及其可靠程度如何，正是那份缺失的準確率資料本應回答的問題。

目前，收到 AERO 通知書的機構，正在黑箱之中獨自應對這種不確定性——每個機構可能面臨的後果高達數百萬美元，而聯邦系統至今仍未說明：如果 AI 判斷有誤，它將如何得知？