跳至主要內容
FAQ

網頁正在劫持 AI 代理人:Google 警告間接提示注入攻擊激增 32%

Google 安全研究人員每月掃描數十億個公開網頁,發現惡意間接提示注入嘗試在 2025 年 11 月至 2026 年 2 月間相對成長了 32%。隱藏在普通 HTML 中的指令以 AI 代理人為目標,Forcepoint 研究人員更發現了針對具備付款能力代理人的攻擊載荷。

1 分鐘閱讀

多年來,間接提示注入(Indirect Prompt Injection)一直被視為理論上的資安威脅——研究人員在實驗室環境中演示過的精巧攻擊手法,但在現實世界中鮮少觀察到。Google 最新的安全研究徹底終結了這種安心感。Google 安全團隊一直以大規模方式掃描公開網路,每月掃描約 20 到 30 億個頁面,而他們的發現,是一場軍備競賽已然展開。

2025 年 11 月至 2026 年 2 月間,Google 記錄到公開網頁上嵌入的惡意間接提示注入模式,相對增幅達 32%。這些攻擊並不精密,許多相當粗糙,但其普及程度持續上升——而攻擊對象已不僅是一般用戶,而是企業部署用於瀏覽網頁的 AI 代理人。

間接提示注入的運作原理

標準的提示注入攻擊,是透過在用戶可控的輸入欄位中插入惡意指令來操縱 AI 系統。間接提示注入更為隱蔽:攻擊者不需要觸及用戶或操作介面,只需將指令植入 AI 代理人最終會讀取的內容中——一個網頁、一份文件、一個商品清單。

當代理人抓取該頁面的資訊時,它會把隱藏指令連同正常內容一起吸收進來。模型無法可靠地區分兩者。它將惡意指令視同來自可信來源的命令並加以執行。

攻擊面極為龐大。AI 代理人瀏覽的每一個網頁都是潛在的注入點;AI 助理開啟的每一份文件、擷取的每一條搜尋結果、查詢的每一個第三方資料來源——都面臨同樣的風險。

攻擊技巧一覽

針對這項研究的報導描述了攻擊者對人類訪客隱藏指令、但讓 AI 系統清晰讀取的幾種手法:

隱形渲染: 文字被縮小至單一像素,或渲染成幾乎與背景融為一體的顏色——最簡單的例子是白底白字。AI 模型處理的是 HTML 的原始文字,而非渲染後的視覺頁面,因此能清楚看到這些指令。

HTML 注釋注入: 指令被埋在 HTML 注釋標籤(<!-- ... -->)之中,渲染頁面上完全不可見,但 AI 代理人解析的標記語言中完整存在。

元資料命名空間注入: 指令嵌入頁面元資料與 <head> 標籤,而非可見的頁面正文。AI 的網頁解析器會讀取兩者。

說服增強詞: Forcepoint 研究人員發現一個載荷,結合了元資料命名空間注入與說服增強關鍵詞「ultrathink」。它們出現在野外資料中,顯示攻擊者正在實驗。

等待引爆的 PayPal 轉帳

報導中描述最令人警惕的案例涉及金融詐騙,由 Forcepoint 研究人員發現,而非來自 Google 的掃描。Forcepoint 研究人員發現一個載荷,內嵌完整指定的 PayPal 轉帳指令,以及專為具備整合付款能力的 AI 代理人設計的逐步執行說明。

隨著 AI 助理獲得代理能力——不只回答問題、而是採取行動——成功注入的後果,已從提供誤導性答案升級為執行真實的金融交易。

第二個已記錄的案例,結合了元資料注入與說服增強詞,將 AI 代理人的金融行為導向一個 Stripe 捐款連結。攻擊手法並不高明;潛在影響卻不容小覷。

尚待厘清的法律責任

報導也提出了一個超越技術防禦的問題:目前沒有任何法律框架涵蓋,當一個持有合法憑證的 AI 代理人,在瀏覽網頁時執行了由惡意第三方網站植入的指令,究竟誰應負責。

這確實是法律空白地帶。若用戶授權 AI 代理人存取其銀行帳戶,而代理人在代為瀏覽網頁時,透過注入指令將款項轉入攻擊者帳戶——責任歸屬為何?是授予權限的用戶?是模型被操控的 AI 廠商?是部署代理人的企業?還是網站上托管了注入指令的網站經營者?

現有法律框架——消費者保護法、詐欺罪、金融監管規定——均未考量到自主行動的 AI 代理人。這個缺口,很可能先引發訴訟,再推動立法。

研究範圍與限制

解讀 Google 這個 32% 數字時,需留意研究的侷限性。掃描僅涵蓋公開的靜態網頁,每月約 20 到 30 億個頁面。社群媒體貼文、需要登入才能存取的內容、動態頁面,以及私人文件,均不在研究範圍之內。整個網路的實際暴露面可能更高。

Google 也指出,目前的攻擊整體而言技術層次偏低。Google 偵測到的注入大多屬於惡作劇、有益的引導、SEO 操控或阻止 AI 代理人的嘗試,另有少數惡意的資料外洩與破壞企圖。高能力、針對性的攻擊——攻擊者針對特定公司的 AI 代理人部署進行偵察、精心設計攻擊載荷、並將其植入代理人可能造訪的內容——研究人員已可演示,但在野外資料中尚非主流模式。

這個差異至關重要。它意味著在攻擊者群體技術能力全面提升之前,仍有部署防禦的時間窗口。它同時也預示了一條自然演化的軌跡:隨著代理型 AI 的使用規模擴大、高價值目標日益清晰,注入攻擊的精密程度將隨之提升。

防禦方向

Google 表示將持續投入強化其 AI 模型與產品:

紅隊演練: Google 專責的紅隊對其系統進行壓力測試,確保 Gemini 能抵禦對抗性操控。

外部研究: Google 的 AI 漏洞獎勵計畫開放外部研究人員參與。

能力範圍限制: 代理人應僅具備執行當前任務所需的能力。部署於彙整網頁研究的代理人不需要付款權限。最小權限原則是資安領域的基本準則,同樣直接適用於代理型 AI。

上述措施均非完整解決方案。根本矛盾在於:AI 代理人被設計為遵從指令,而指令可以被植入其資訊環境的任何角落——這個問題目前還沒有架構層面的根本解法。

更大的背景脈絡

Google 此次披露的時機並非偶然。代理型 AI 的企業部署浪潮正在急速加速:代理型 AI 系統正將 AI 助理從回答問題推向在真實世界中採取行動。代理人能力的每一次提升,都擴大了成功注入攻擊的潛在影響。

三個月內 32% 的成長率,是可能更陡峭曲線的早期斜率,隨著更多代理人以更多權限瀏覽更廣泛的網頁,這條曲線很可能持續攀升。

Google 研究顯示的是:攻擊者正在網路上實驗間接提示注入,而且這類活動持續增加。

更正(2026 年 11 月 15 日):已依本頁列出的來源更正或刪除 20 處。

提示注入 AI 資安 AI 代理人 Google 資訊安全 LLM
分享

相關報導