Googleは、SynthID透かし技術を拡大してGoogleフォトを含め、AIを搭載したツールで変更された画像に目に見えないデジタルマーカーを追加しています。
これは、AIアシストコンテンツの編集がより洗練されるにつれて、AIの透明性を改善するためのGoogleの努力の重要なステップを示しています。今週展開されるアップデートは、Pixelデバイスで利用可能なAI駆動型の写真編集機能であるMagic Editorを使用して変更された画像に適用されます。懸念事項は、変更されたメディアの拡散に取り組みます。同社は以前、2024年10月にGoogleフォトにメタデータベースのAIラベルを導入しましたが、この方法ではユーザーが手動で画像の詳細を確認する必要がありました。 SynthIDを使用すると、隠された透かしがピクセルレベルに埋め込まれ、変更された画像からAI属性を剥がすのが難しくなります。 2024/05/google-deepmind-synthid-ai.jpg”>
この技術は当初、GoogleのImagen 3モデルによって作成された画像を追跡するために使用されました。現在、AI修正画像への拡張は、AIコンテンツ検証の抜け穴を閉じることを目的としています。
ウォーターマークは、Googleの「About This Image」ツールを使用して読みやすくなります。これにより、ユーザーは画像の起源とAIベースの変更に関する情報を提供します。ただし、GoogleはSynthIDが絶対に不可能ではないことを認めています。その有効性を低下させます。
AIの透明を拡張する決定は、生成されたAIに関する懸念が高まっていますメディアはすでに政治キャンペーン、セレブのディープフェイク、欺ceptive広告で使用されています。
。//arxiv.org/pdf/2310.00076.pdf”>メリーランド大学からのStudy は、敵対的な技術が画像からAI透かしを剥ぎ取り、信頼性を認証のツールとして減らすことができることを発見しました。 > MetaはAI透明性測定も導入し、FacebookおよびInstagram全体でコンテンツに必須のAIに生成されたラベルを追加しています。同社は、ビデオシールフレームワークで追加の一歩を踏み出しました。これは、変更後も持続するニューラル透かしを適用しています。
一方、Microsoftは可視透かしをBing Image CreatorのAI生成画像に埋め込みましたが、OpenaiはDall-E 3。
によって作成された画像にC2PAメタデータを実装していますが透明性、彼らには制限もあります。透かしとメタデータラベルは削除、変更、または無視でき、誤った情報の問題に対する不完全なソリューションになります。これは、AIを搭載した編集ツールがデジタルメディアをこれまで以上に操作できるようにする時代に特に懸念されています。 > SynthIDの拡大は、Googleによる単なる自発的な動きではありません。これは、政府や規制当局からの圧力が増加しているため、AIが生成されたコンテンツが識別できるようにすることです。