a 今日公開された配線調査キャラクター。
ミニオンやアニメーション猫のようなおなじみの人物は、グラフィック暴力、性的状況、虐待を含むシーンに描かれており、数千から数百万の範囲の加入者数に達します。 href=”https://en.wikipedia.org/wiki/elsagate”ターゲット=”_ blank”>”elsagate”現象が、最新のAIツールによって超充電されています。 Wiredのレポートに応答して、YouTubeは、その利用規約に違反したために2つのフラグ付きチャネルを終了し、他の3つの収益化を一時停止し、子どもの安全ポリシーに違反する特定のビデオを削除したことを確認しました。 src=”https://winbuzzer.com/wp-content/uploads/2025/05/video-scene-from-the-go-cat-youtube-channel.jpg”>
ai生成されたビデオは、しばしば耳障りな並置を提示します。例には、放射性スライムにさらされた後に変異し、その後子供を攻撃する後に変異したミニオン、または野球のバットとフライパンを使用して親の人物によって暴力にさらされるアニメーション子猫が含まれることが含まれます。 #AnimalRescue寄生虫感染を示すビデオのAnimalrescue -若い視聴者を引き付けたり、プラットフォームフィルターを回避したりするように見えます。内臓のボディホラースタイルのアニメーションを特徴としています。別のビデオでは、下水道でひどく変換されるミニオンを描いています。AIナレーターが歌うAIのナレーターを伴って、「夜のミニオンに注意してください。影の魂は見えません。」
いくつかのチャネルによって報告されたハイビュー数は議論の余地があります。 href=”https://en.wikipedia.org/wiki/dead_internet_theory”target=”_ blank”>死んだインターネット理論 「Elsagate」では、子供のキャラクターを使用した不適切なビデオが何年も前にYouTubeのKidsアプリにフィルターを滑らせました。 YouTubeはその後、何百万ものビデオで広告を削除し、さらに数十万人を削除しました。
しかし、アクセス可能な生成AIの出現は新しい課題を提示します。これらの不気味なアニメーションを作成するには、特殊なスキルが必要ではなく、AIプロンプトを作成（または回避する）能力のみが迅速で大規模な生産につながり、しばしば収益化に関するオンラインチュートリアルに続きます。 「従来のコンテンツ作成とは異なり、AIに生成されたビデオは、最小限の監視で大量に生成できます。作成パイプラインで人間のレビューがなければ、不適切で潜在的に有害な素材は子供に簡単に届くことができます。」 Common Sense Mediaは、「極度の苦痛や危険のキャラクター」、「切断、医療処置、残酷な実験」、「児童虐待と拷問の描写」など、有線で示されたビデオの繰り返しのテーマを特定しました。 href=”https://www.youtube.com/watch?v=jnlvfmx9q4i&t=679s”ターゲット=”_ blank”>今年の初めには、おそらくコンテンツ農業でのヒントを得る、おそらくアジアで、おそらくAsiaのヒントを得るために、組織化されたオフィス環境から運営される可能性があることが示唆されました。ツール
YouTubeは、コミュニティのガイドラインと、AIに生成された素材を含むすべてのコンテンツに適用される品質原則を主張し、執行には人間のレビュアーとテクノロジーの両方を使用しています。プラットフォームはまた、禁止されたユーザーが新しいチャネルを開く試みはその利用規約に違反し、「人とテクノロジーの両方の組み合わせ」を使用して実施されていることに留意しました。 2024年4月、Google、Microsoft、およびその他のAI企業は、Thornなどの組織とともに開発された子どもの安全対策に公にコミットし、CSAMに関するモデルのトレーニングまたは生成に対して特に誓約しました。その後、2024年9月に、いくつかの企業がホワイトハウスに自発的なコミットメントを行い、有害なディープフェイクと非合意の搾取的なイメージと戦うために、YouTube自体が過去1年間に特定のツールを導入しました。 2024年6月のプライバシーポリシーの更新により、個人はレビューの対象となりますが、AIメディアの削除をリクエストすることができました。
2024年9月に、プラットフォームはコンテンツIDシステム（従来著作権施行に使用されている技術）を強化し、AIが生成された声と顔も検出しました。最近では、2024年10月に、YouTubeは、C2PA標準（コンテンツの起源と信頼性の連合）に基づいた「カメラで捕獲された」ラベルを導入しました。これは、本物の未編集の映像を検証するためにメタデータを埋め込みました。
しかし、その有効性はハードウェアの採用とその編集が検証チェーンを破ることによって制限されます。 YouTubeでは、クリエイターがAIに生成されたコンテンツにラベルを付ける必要がありますが、これはクリエイターの正直さに依存しています。
コンテンツファームとクロスプラットフォームのスプレッド
これらの措置にもかかわらず、有線で発見されたコンテンツの持続性は、難易度のプラットフォームが直面することを強調しています。チャンネルは、テイクダウン後にすぐに再び現れることがよくあります。問題はYouTubeに限定されていません。
レポートは、数か月前に類似したAIの生成そのポリシーに違反する有害なAIに生成されたコンテンツを削除するための行動をとる。また、EUのAI法のように、自発的な業界のコミットメントと正式な規制を含む、自発的な業界のコミットメントと正式な規制などの現在の安全対策の妥当性について継続的に議論します。上級AIアドバイザーTracy Pizzo Freyの後公聴会で証言した法案は、AIシステムのリスク分類と、
