YouTube は火曜日、AI ディープフェイクに対抗するための新しいツールを発表し、クリエイターが自分のデジタル アイデンティティをより詳細に制御できるようになりました。
ユーザーは類似性検出システムを使用して、自分の顔や声を悪用した動画を見つけて削除をリクエストできます。 Google 所有のプラットフォームからのこの動きは、OpenAI の Sora 2 アプリをめぐる数週間にわたる論争の後に行われました。
Sora 2 の発売は、無許可のディープフェイクをめぐりハリウッドと有名人の家族からの反発を引き起こしました。このため、OpenAI は安全性を向上させるためにルールを迅速に変更し、俳優組合と提携する必要があり、AI 生成コンテンツの管理をめぐる業界全体の争いが激化していることが浮き彫りになりました。
YouTube が新たな機能を展開 クリエイター保護のためのツール
コミュニティに力を与えるための重要な一歩として、YouTube は、YouTube パートナー プログラムの資格のあるクリエイター向けに、類似性検出テクノロジーを正式に展開しました。
このシステムは、クリエイターの顔や声を同意なしに使用し、AI によって生成または変更されたコンテンツを識別するように設計されています。これは、説得力のあるディープフェイクの台頭に対して積極的な防御を提供します。
このツールにアクセスするには、クリエイターは 1 回限りの本人確認プロセスを完了する必要があります。このプロセスには、政府 ID と、詐欺行為を防ぐための簡単な自撮り動画が必要です。 を使用します。
オンボーディング後、YouTube が確立した著作権用コンテンツ ID と同様に機能するシステムは、一致する可能性のある新しいアップロードをスキャンします。
悪用の可能性がある場合 フラグが設定されている場合、クリエイターは動画を確認し、YouTube のプライバシー申し立てプロセスまたは標準の著作権申し立てを通じて削除リクエストを提出することを選択できます。
これにより、クリエイターは個人のブランドとアイデンティティを保護する直接的なメカニズムが得られ、デジタルなりすましが風評被害を引き起こす可能性についてのクリエイター経済内での長年の懸念に対処できます。
[埋め込みコンテンツ]
OpenAI のディープフェイクへの直接の対応 ファイアストーム
YouTube の系統的な展開は、OpenAI の Sora 2 ビデオ ジェネレーターの混沌としたデビューとはまったく対照的です。
10 月初めにリリースされた Sora 2 の、著名人や著作権で保護されたキャラクターに対する最初の「オプトアウト」ポリシーはすぐに裏目に出ました。このプラットフォームの設計は、迅速でバイラルなビデオ作成を奨励するものであったため、ユーザーはコンパニオン ソーシャル アプリに無許可で攻撃的なディープフェイクを大量に送り込み、世間の激しい抗議を引き起こしました。
最も強力な批判は、亡くなった著名人の遺族からのものでした。俳優ロビン・ウィリアムズの娘であるゼルダ・ウィリアムズは、「現実の人々の遺産が凝縮されているのを見るのは苦痛だった…ひどい、彼らを操るTikTokのずさんな人形遣いは腹立たしい」と語った。
公民権運動の指導者マルコムXとマーティン・ルーサー・キング・ジュニアの財団もまた、この「無礼な」「傷つける」描写を非難した。キング牧師の娘であるバーニス・キングは、父親の動画をやめるようソーシャルメディアでシンプルだが心に響く訴えを行った。
ハリウッドはすぐにこのプラットフォームに反対する運動を起こした。影響力のあるクリエイティブ・アーティスツ・エージェンシー（CAA）は、このアプリがクライアントにとって「重大なリスク」であると認定した。一方、映画協会（MPA）は、不正使用に対する法的責任をAI企業に真っ向から課した。 MPA CEO の Charles Rivkin 氏は、「…Sora 2 サービスへの侵害を防ぐのは、権利所有者の責任ではなく、彼らの責任であり続けます。」
クリエイティブ業界からのこの統一戦線は、OpenAI にとって本格的な PR 危機を引き起こしました。
激しい圧力に直面した同社は、慌てて方針を転換しました。 CEO のサム アルトマンは、発売からわずか数日後に、保護されたキャラクターに対するよりきめ細かい「オプトイン」システムへの移行を発表しました。
同社は後に規則を修正し、「最近亡くなった」人物の代表者がその肖像をブロックできるようにしました。この方針は、OpenAI が財団の要請に応じてマーティン ルーサー キング ジュニアの全世代の活動を一時停止したときに実行されました。
OpenAI は声明で、難しいバランスに直面していることを認め、「歴史上の人物を描くことには言論の自由への強い関心がある一方で、OpenAI は公人やその家族がその肖像がどのように使用されるかについて最終的には管理すべきであると考えています。」
一連の事後措置は 10 月に最高潮に達しました。 OpenAI は 20 日、安全ガードレールを強化するために俳優のブライアン クランストンおよび SAG-AFTRA 労働組合との正式な提携を発表しました。これは、主要な AI 開発者がクリエイティブな労働組合と直接協力して政策を形成する画期的な動きです。
AI の法的および倫理的未知の領域をナビゲートする
Sora 2 論争と YouTube 新しいツールは、生成 AI を取り巻く広大な法的および倫理的なグレーゾーンを浮き彫りにします。従来の名誉毀損法は故人には適用されないことが多く、家族には州レベルの死後パブリシティ権という一貫性のないつぎはぎのような権利が唯一の拠り所となる。
この法的空白により、優先する連邦基準がないため、必ずしも違法ではないものの、プラットフォームと家族の双方に重大な精神的苦痛を引き起こし、不確実性をもたらしているコンテンツの拡散が許されている。
この議論はまた、根本的な疑問を再燃させている。 AI モデルがどのようにトレーニングされるかについて。批評家は、業界が明確な許可なく大量のウェブデータをスクレイピングすることに依存していることは、まだ解決されていない根本的な問題であると主張している。
OpenAI はフェイク禁止法などの連邦法への支持を表明しているが、デジタル権利擁護者らは、そのような法律が慎重に作成されなければ言論の自由やパロディを抑圧する可能性があると懸念している。
この激動の環境において、YouTube のクリエイター中心のツールは別の道を提供する フォワード。個人が自分の肖像を制御するための明確でアクセス可能なメカニズムを提供することで、このプラットフォームはデジタル アイデンティティのより責任ある管理者としての地位を確立しています。
無許可のソラ クリップの対象となった俳優のブライアン クランストンにとって、このような積極的な対策は不可欠です。 「私は、OpenAI のポリシーとガードレールの改善に感謝しており、彼らとこの取り組みに携わるすべての企業が、私たちの声と肖像の複製を管理する個人的および職業的権利を尊重してくれることを願っています。」
業界がこれらの新しいテクノロジーに取り組む中、OpenAI の「パブリックでの構築」の混乱と YouTube の構造化されたツールベースのアプローチとの対比は、未来を管理するための 2 つのまったく異なる哲学を提示しています。 AI によって生成されたコンテンツ。
これらの多様な戦略の結果は、テクノロジー業界全体での責任ある AI 導入の重要な前例となる可能性があります。
