隨著OpenAI將新的GPT-4O圖像生成模式推向了自由tier ChatGpt用戶，該公司還正在嘗試可見和無形的水印技術，以幫助更好地識別AI生成的視覺效果。可見的水印（作為“ ImageGen”標籤）正在對免費帳戶的產出進行測試，而付費用戶將
As Tibor Blaho shared on Threads, a recent update to the ChatGPT web app introduces an experimental feature that mentions a “watermarked asset pointer”and provides an option to “Save image without watermark”.
View on Threads
The testing coincides with the general availability of ChatGPT-4o’s image generation tool for all users, including those on the free plan, who now have access to it with daily usage limits.圖像生成以前僅限於付費層。現在，不僅僅是技術正在擴展，因此Openai努力使其內容更具追溯性。這標誌著從OpenAI中加強內容歸因的更廣泛的策略，並在AI產生的媒體上進行了越來越多的審查。
可見的標記，無形的元數據
，而可見的水印是最明顯的變化，Openai也將其圖像納入C2PA標準。這些機器可讀的標識符包括時間戳，軟件標籤和來源驗證內容的出處的原始標記。該方法建立在Openai在DALL·E 3圖像生成中先前使用C2PA元數據的基礎，該圖像始於2024年初。
，但是，基於元數據的系統的局限性是眾所周知的。正如Openai先前所承認的那樣，簡單的操作（例如裁剪，屏幕截圖或將圖像上傳到剝離元數據的平台）可以刪除這些隱形標記。儘管存在這些缺點，該公司仍支持需要水印的法律框架。 Openai除了Adobe和Microsoft外還支持加利福尼亞的AB 3211法案，該法案將要求對AI生成的內容進行標籤，以幫助減輕錯誤信息的風險。
OpenAI的實驗在此最新測試之前，它具有水印日期。除了其DALL·E 3的C2PA元數據推出外，該公司還為Chatgpt開發了一種文本水印系統，該系統於2024年中宣布。該工具嵌入了不可察覺的語言模式，以幫助標記AI生成的文本。但是對準確性和意外後果的擔憂導致OpenAI推遲了推出。
OpenAI承認該工具的局限性以及復雜技術繞過它的可能性。 該公司還指出，對於依靠AI進行第二語言寫作支持的用戶而言，潛在的公平問題。可以使用改寫或機器翻譯等簡單策略來刪除或混淆水印。
這些早期的努力為Chatgpt-4O水印測試提供了必不可少的背景。通過結合可見和看不見的指標，OpenAI試圖在可用性和可追溯性之間取得中間立場。
行業範圍內的屬性
OpenAI並不孤單地在重新思考內容認證方面。其他科技巨頭已經採取了平行的步驟來標記AI生成的媒體。 2025年2月，Google將其合成系統（由DeepMind開發）擴展到Google照片。該技術現在適用於編輯的圖像以及完全生成的圖像，將不可察覺的水印直接嵌入像素數據中。 SynthID可以在調整大小或輕濾光片等基本轉換中生存，但對重型編輯或裁剪的有效性較小。
Microsoft在2024年9月通過其Azure Openai服務也採用了水印，將密碼簽名的元數據嵌入了由dall·e產生的圖像中。這些元數據條目注意了生成源，創建日期和軟件標識符。該系統是一項更廣泛的計劃的一部分，該計劃涉及與Adobe，Truepic和BBC建立合作夥伴關係，以標準化跨平台的內容身份驗證。
meta，同時採取了更直接的方法。 2024年2月，該公司在Facebook，Instagram和Threads上對AI生成的內容推出了強制性的可見水印。標籤“用AI想像”出現在Meta工具或Midjourney和Dall·e的第三方模型創建的任何圖像上。梅塔（Meta）表示，它將很快就合成視頻和音頻進行類似的披露，並具有潛在的執法行動，以實現不合規。
技術局限性和研究挑戰
儘管採用了增長，水印仍然存在弱點。 2023年10月，馬里蘭大學的研究人員發表了一項研究，研究了AI圖像水印的極限。他們的發現表明，常見的水印方法可以通過對抗技術打敗。更令人擔憂的是，攻擊者可以在未標記的圖像上“欺騙”水印，從而使其在不標記的情況下似乎是AI生成的。
在他們的論文中，該團隊還描述了檢測折衷:提高準確性以避免虛假負面因素（缺少水印）會增加虛假的正面（標記未標記未標記的內容）。這些發現表明，僅憑水印可能不是針對操縱媒體或錯誤信息的可靠安全網。
平衡透明度與可用性
決定將可見的“ ImageGen”水印限制在免費用戶的決定中提出了有關一致性的問題。如果付費訂閱者將繼續享受無水印的產出，這將創建一個兩層系統，使內容跟踪和適度跨平台變得複雜。沒有可見標籤的圖像可能會更加自由地循環（沒有它是否是AI生成的。
OpenAi的雙層策略與元數據之間的可見標記相結合-可能反映了一種嘗試減輕這些問題而不使權衡過於折磨的問題的嘗試。但是，隨著合成培養基的增殖，水印系統可能需要進一步發展以保持有效。當前餘額是否符合監管機構，平台和用戶的期望。
