2025年7月2日公開披露的Google Gemini在Google Gemini中的關鍵漏洞使攻擊者可以將AI助手變成網絡釣魚工具。根據0din Bug Bounty平台的報告，威脅參與者可以在電子郵件代碼中嵌入惡意，隱形說明。
當用戶要求Gemini總結消息時，AI執行隱藏命令。然後，它生成旨在竊取憑據或將用戶引導到惡意網站的虛假安全警報。這種“間接提示注射”攻擊之所以起作用，是因為AI處理了用戶看不到的隱藏文本。它將其轉變為一種令人信服且危險的新形式的社會工程形式。該披露重點凸顯了AI安全性的日益嚴重的挑戰，LLM複雜性創造了新的攻擊表面。 Conalice
攻擊被稱為“雙子座的網絡釣魚”，依賴於電子郵件體內對HTML和CSS的巧妙操縱。攻擊者使用包含惡意指令的隱藏文字製作消息。通過將其字體大小設置為零或顏色以匹配背景。
雖然用戶只看到良性消息，但Gemini的摘要功能攝取了原始的，未過濾的HTML，就可以使該文本變得不可見。
。 AI作為其及時的一部分處理這些隱藏的說明，以忠實地附加攻擊者的捏造安全性警告，以便對可見文本進行原本準確的摘要。
結果是無縫的欺騙。用戶收到似乎來自雙子座的摘要，但其中包含惡意有效載荷，例如致電偽造支持號碼或訪問憑證收穫網站的警告。
這種方法特別陰險，因為它不需要可見的內容中的惡意鏈接或附件，正如安全研究人員所指出的那樣。這允許最初的電子郵件繞過許多傳統的安全掃描儀，它們尋找明顯的危險信號，從而使檢測變得極為困難。
解構“間接及時注射”攻擊
雙子座的exploit是一本間接提示（IPI）的教科書示例（IPI），是已知的cluberability for llms。 The core issue is the model’s inability to distinguish between trusted system instructions and untrusted, third-party data, especially when that data is designed to be deceptive.
The researchers at 0DIN found the attack’s effectiveness is amplified by “authority framing.”通過將隱藏的命令包裹在標籤中，攻擊者可以欺騙模型將指令視為高優先級的系統指令，使其更有可能遵守。
這利用了LLMS流程提示的層次結構性質，實質上將攻擊者的命令高於標準的總結攻擊。它是一個省的彈性攻擊。 IPI對雙子座的攻擊在2024年進行了報導，促使Google到
在AI-Weapon的網絡犯罪中的新陣線
詳細攻擊者如何使用Vercel的V0 AI工具立即生成像素完美的網絡釣魚站點。
這種“即時的網絡釣魚”能力消除了網絡設計中的技術技能的需求，從而使較不復雜的演員能夠為Microsoft 365和OKTA的登錄名創建有缺陷的登錄頁面，以示為202個Grogne 3和Okta。根據Google的威脅智能小組，由國家贊助的黑客使用AI來提高運營效率，“威脅性參與者正在使用Gemini進行實驗，以實現其運營，找到生產力的提高，但尚未發展出新的能力。 “以越來越快的速度為網絡攻擊生成可信的內容。”
Vercel的Ciso Ty Sbano共享了這種觀點，他們承認“像任何強大的工具一樣，V0可能會被濫用。這是一個整個行業範圍的挑戰，在Vercel，我們正在投資於迅速遭受虐待的系統和夥伴關係，“強調了挑戰的行業範圍內的性質。
濫用的便利性有效地使高級網絡犯罪民主化，將強大的工具從民族國家的手中轉移到更廣泛的犯罪生態系統。
來自0DIN和其他安全渠道的專家概述了一個多層防禦策略，這包括實施入站的HTML“ linting”或中和样式的樣式，以創建無形文本，以指示AI忽略shide Plessions for Persied for for post forper forper。電話號碼或網址為審查，用戶意識培訓必須教導AI生成的摘要不是提供商的權威安全警報。
對於Google等LLM提供商，建議您將在MALISIDION中提供了更多的指示。
此外，提供“解釋性鉤子”，使用戶可以看到為什么生成特定的文本可以揭示隱藏的提示，從而在視覺上分離出AI生成的文本與源材料可以幫助用戶發現異常。
通過比較0DIN的啟動，如果毫不及格地將其置於Emabiritions Inpotions Inpotions Inpotient。威脅。更廣泛的含義是顯著的，這種攻擊有可能自主地傳播自主的AI蠕蟲。 href=“ https://blog.google/technology/safety-security/ai-and-the-future-future-of-national-security/“ target=“ _ blank”>警告，“美國在AI競賽中保持領先優勢，但我們的優勢可能不會持續下去。”