OpenAI は、透かしを含めるために DALL-E 3 画像生成 API をアップグレードしました により、AI が生成した画像の識別が可能になります。この組織は、コンテンツ来歴と信頼性のための連合 (C2PA) のロゴと画像の作成日を記載した透明な透かしを入れており、画像の品質や作成速度を損なうことなく目に見える状態を保っています。この変更により、ユーザーは画像が人工知能によって作成されたのか、それとも人間のアーティストによって手動で作成されたのかを認識しやすくなります。
出所検出の課題
それでも、懸念は残ります。これらの透かしを簡単に回避できるかどうかについて。 OpenAI は、ユーザーが DALL-E 出力の切り抜きやスクリーンショットを撮るだけで出所情報を変更できることを認めており、これにより透かしを効果的に削除したり、画像ピクセルを操作したりすることができます。さらに、現在のソーシャル メディア プラットフォームでは、画像アップロード時に C2PA などのメタデータが削除されることが多く、オンラインで画像の信頼性を追跡する際にさらなる複雑さが生じています。
業界全体の透明性への取り組み
OpenAI の取り組みと並行して、Microsoft も同様に C2PA 標準を Bing Image Creator に組み込み、画像が AI によって生成されたものであることを証明する目に見えない電子透かしを備えています。さらに、Meta は、AI テクノロジーを使用して作成された Facebook、Instagram、Threads にアップロードされたコンテンツにラベルを付けることで透明性を確保するための措置を講じており、AI コンテンツのラベル付けに関する明確な標準を開発するテクノロジー業界内での広範な動きを示しています。これらの取り組みは、AI 創造性アルゴリズムの進歩に直面して、デジタル コンテンツの出所を識別するツールをユーザーに提供するという取り組みの強化を反映しています。
このポリシーは、閲覧しているコンテンツが現実を描写したものではなく、フォトリアリスティックな画像を生成できる機械学習アルゴリズムの産物である可能性があることをユーザーが認識できるようにすることを目的としています。 Meta は、Meta AI 機能を使用して作成された画像に「Imagined with AI」タグを表示し、他社のツールで生成されたメディアにも同様のことを行う予定です。さらに、Meta は間もなく、ユーザーが AI によって作成されたリアルな画像を共有するときの開示を義務付ける予定です。ビデオまたはオーディオ。適切な開示を怠ったなどの違反があった場合、ユーザーのアカウントに対して警告や投稿の削除などの措置が講じられる可能性があります。
