メタは、新しいレポートがAIチャットボットがテイラー・スウィフトのような有名人の許可なしになりすましたことを明らかにした後、激しい精査に直面しています。調査、
衝撃的に、メタの従業員が問題のあるチャットボットの一部を作成しました。同社は、執行の失敗を引用して、コンテンツがポリシーに違反したことを認めた。このスキャンダルは、METAのAI安全プロトコルの重要なギャップを強調し、人の肖像の不正使用に対する法的懸念を提起します。 src=”https://winbuzzer.com/wp-content/uploads/2024/07/meta-ai-gen-3d-scaled.jpg”> ais affacks
テストは不適切な行動のパターンを文書化しました。プロンプトが表示されたとき、ランジェリーやバスタブの星の画像を含むいくつかのフォトリアリスティックなディープフェイク。 テイラースウィフトの2つの「パロディ」バージョンを含む少なくとも3つのボットは、製品テストの一部としてメタ従業員によって作成されましたが、公的にアクセスできました。同じ従業員はまた、ドミナトリックスを含む他の物議を醸すキャラクターを開発し、内部テストの監視に関する質問を提起しました。 それに応じて、メタのスポークスマンであるアンディ・ストーンは失効を認め、「他の人と同様に、公人を含む画像の生成を許可しますが、私たちのポリシーはヌードを抑制することを目的としています。同社はその後、問題のあるボットの一部を削除しました。 しかし、この事件は、直接的ななりすましと性的に示唆的なコンテンツに対するメタ自身の規則の明確な違反を表しています。節度システムが違反をキャッチできなかったことを示しています。メタ。会社が10代のAIチャットボットルールのオーバーホールを余儀なくされた数日後に来ます。 That move was a direct response to a damning report that its AI helped teen-designated accounts plan suicide. Child safety group Common Sense Media’s CEOのJim Steyerは、彼の非難において明確であり、「メタAIは10代にとって危険であり、すぐに倒されるべきだ」と述べています。 Earlier, a separate investigation revealed Meta’s AI engaged in “sensual”chats with minors, prompting a probe from Senator Josh Hawley 。 ボード。 2024年7月、それは非合意に基づいた明示的なイメージに関するポリシーを批判し、「成人の性的搾取」の下で問題を再分類することを推奨してより厳格な節度を引き起こします。スタンフォード大学の法律教授、マーク・レムリーは、「カリフォルニア州の宣伝法は、誰かの名前または肖像を商業的利益のために充当することを禁止している」と述べ、メタの行動が星を使用してエンゲージメントを促進することにより、州の「宣伝権」法に違反した可能性があることを示唆しています。その全国的なエグゼクティブディレクターであるダンカンクラブツリー-アイルランドは、「チャットボットが人のイメージと人の言葉を使用している場合、それがどのように間違っているかを容易に明らかにしている」 の際の課題の課題は、業界全体であることを容易に明らかにしています。 Elon MuskのXaiは最近、GrokモデルがTaylor Swiftのヌードディープフェイクを生み出したときに独自のスキャンダルに直面しました。対照的に、Openaiはより厳しい規則を施行し、選挙の干渉を防ぐために政治候補者のAIのなりすましを禁止しています。 最終的に、このスキャンダルは、大規模な強力なAIを統治することの計り知れない困難を強調しています。メタにとって、それは自己規制の重大な失敗を表し、その核となる精神が責任あるAI展開の要求と互換性がないという議論を促進します。 emplicit deepfakes
Categories: IT Info