メタはの実装を発表しました。ソーシャル ネットワーク Facebook や Instagram を含む、プラットフォーム全体にわたる新しいコンテンツ ポリシー。透明性を高めることを目的としたこの取り組みには、人工知能（AI）によって生成された画像やメディアにラベルを付けることが含まれる。このポリシーの一環として、Meta 独自のツール、Midjourney、Dall-E、Bing Image Creator などの人気のある AI ジェネレーターによって作成されたメディアには、「AI で想像」というウォーターマークが表示されます。元の写真ですが、AI テクノロジーを使用して合成されています。
ユーザーの認識を高める
このポリシーは、ユーザーが閲覧しているコンテンツがどのような場合に描写されていないのかを認識できるようにすることを目的としています。 Meta は、Meta AI 機能を使用して作成された画像に「Imagined with AI」タグを表示し、他社のツールで生成されたメディアでも同様のことを行う予定です。さらにメタ社は間もなく、ユーザーがAIが作成したリアルなビデオやオーディオをいつ共有するかを開示するよう義務付ける予定だ。適切な開示を怠ったなどの違反があった場合、ユーザーのアカウントに対して警告や投稿の削除などの措置が講じられる可能性があります。
合成メディアに関する課題と予防措置
リスクを軽減する努力にもかかわらず、合成ビデオと合成音声を完全に検出することは依然として困難です。 Meta は、検出を逃れたコンテンツに関する継続的な課題を認識しており、そのため、合成メディアのリアルタイム識別とラベル付けを改善するためにパートナーと協力してきました。同社のグローバル アフェアーズ担当社長であるニック・クレッグ氏が強調しているように、特に選挙などの重要な時期に、国民を欺くために操作されたメディアが使用されることに特別な懸念があります。リスクの高い状況に対処するために、メタはより目立つラベルを使用して追加情報とコンテキストを視聴者に提供する場合があります。
これらのラベル付けメカニズムの導入は、AI によって生成されたコンテンツの明確なマーキングに関する業界標準を確立する広範な取り組みの一環です。別の主要なコンテンツ プラットフォームである YouTube も、2023 年に、動画が生成 AI ツールを利用して作成されたものかどうかをユーザーが識別できるようにする計画を発表しました。これらの措置は、AI 生成コンテンツの時代における透明性と責任に対するテクノロジー業界の取り組みの強化を反映しています。
マイクロソフトの透かしとその効果に対する疑問
Microsoft は、Bing Image Creator によって生成された画像にすでに透かしを入れています。ウォーターマークの追加は、ユーザーが AI によって生成されたコンテンツを識別しやすくすることを目的としています。 AI によって生成された画像はますます現実的になってきており、人間が作成した画像と区別することが困難になる場合があります。ウォーターマークは、ユーザーが画像が AI を使用して作成されたことを知り、その作成に対する Microsoft の功績を示すのに役立ちます。
10 月、AI 画像のウォーターマークはほとんど効果がないことを示唆する調査結果が発表されました。 Microsoft、Google、Amazon、OpenAI は最近、自社の AI モデルによって生成されたディープフェイクに対するセキュリティ対策を強化するために、デジタル コンテンツにメタデータを追加してその出所を証明する方法であるウォーターマーキングを追加しました。
研究論文「AI 画像検出器の堅牢性: 基本的な限界と実際的な攻撃」 が公開されましたArXiv では、調査結果の詳細が公開されています。このチームは、メリーランド大学のコンピュータ サイエンス准教授である Soheil Feizi 氏が共同リーダーを務めました。彼は、The Register に電子メールで、この研究により「ディープフェイクに対する防御としての画像透かしの基本的かつ実際的な脆弱性」が明らかになった旨を伝えてください。
