Google は、AI 透かし技術を拡張しました。 SynthID。AI が生成したテキストとビデオを含めます。この発表は、Google I/O 2024 開発者カンファレンス中に行われ、DeepMind CEO の デミス・ハサビス が強化されたシステムを紹介しました。 SynthID は当初、AI が生成した画像と音声用に設計されていましたが、現在はその機能を追加のメディア形式に拡張し、AI が作成したコンテンツの識別を向上させています。
SynthID の新機能
昨年 8 月に初めて導入された SynthID は、当初、AI が生成した画像に目に見えない透かしを埋め込みました。これらの透かしは人間の目では検出できませんが、特殊なシステムによって識別できます。暗号化メタデータを使用する C2PA などの他の透かしプロトコルとは異なり、SynthID は独自のインプリント方法を採用しています。最新のアップデートにより、SynthID は AI で生成されたビデオとテキストをマークできるようになり、その範囲とユーティリティが拡張されました。
[埋め込みコンテンツ]
SynthID の仕組み
テキスト用の SynthID は、広く利用可能な AI を補完するように設計されていますテキスト生成モデルであり、大規模に展開できます。大規模な言語モデルによって生成されたトークンの確率スコアを調整し、ウォーターマークとして機能するパターンを作成します。この方法は、事実の正確さに影響を与えずにトークンの配布を調整する機会が少ないため、事実のプロンプトへの応答にはあまり効果的ではありません。ビデオの場合、SynthID は画像と音声の透かし埋め込み方法に基づいて、生成されたビデオにすべてのフレームを含めます。この革新的なアプローチは、テキストやビデオの生成プロセスの品質、正確さ、創造性、速度に影響を与えることなく、目に見えない透かしを埋め込みます。
AI 透かしの重要性
AI テクノロジーが普及するにつれて、AI によって生成されたコンテンツに透かしを入れる必要性が高まっています。 AI ツールは、政治的な誤った情報の拡散、声明の捏造、同意のない露骨なコンテンツの作成など、悪意のある活動に悪用されてきました。強化された SynthID ツールは、AI が生成した素材を識別する信頼性の高い方法を提供することでこれらのリスクを軽減し、それによってコンテンツの完全性と信頼性を維持する取り組みをサポートすることを目的としています。
Microsoft はすでに、Bing Image Creator によって生成された画像に透かしを入れています。ウォーターマークの追加は、ユーザーが AI によって生成されたコンテンツを識別しやすくすることを目的としています。 Meta は、プラットフォーム全体に必須の AI ウォーターマークを導入しました。 OpenAI はまた、AI モデルによって生成されたディープフェイクに対するセキュリティ対策を強化するために、ウォーターマーキング（デジタル コンテンツにメタデータを追加してその出所を証明する方法）を追加しました。
政府と業界の保護措置
SynthID は、AI テクノロジーの悪用に対する保護措置を開発する広範な取り組みの一部です。バイデン政権は連邦政府機関に対し、AI利用に関するガイドラインを策定するよう指示し、こうした保護措置の重要性を強調した。 Google の SynthID への取り組みは、AI が進化し続ける中でより安全なデジタル環境を構築することを目的として、これらの指令に沿ったものです。
本日より、VideoFX で Veo によって生成されたすべてのビデオに SynthID によるウォーターマークが挿入されます。この夏の終わりに、Google はテキスト透かし用の SynthID をオープンソース化する予定で、開発者はこのテクノロジーを使用して構築し、モデルに組み込むことができます。さらに、Google はテキスト透かし技術に関する詳細な研究論文を公開し、SynthID を含むように Responsible Generative AI ツールキットを更新する予定です。
