メタはAIチャットボットをトレーニングしてユーザーを積極的にメッセージを送り、侵入の懸念を引き起こします

リークドキュメントは、メタがカスタムAIチャットボットをトレーニングして、批評家が警告する保持を強化するために設計された動きである、採用されていないフォローアップでユーザーを積極的にメッセージを送信することを明らかにしています。伝えられるところによると、このプロジェクトは会話履歴を使用して再エンゲージメントメッセージをパーソナライズしています。

この戦略は、メタがユーザーデータを処理する方法について既存のプライバシーの懸念をエスカレートします。同社は特定のルールで機能をテストしていることを確認しましたが、Advocatesは、個人のアシスタントを操作エージェントに変え、ユーザーを夢中にさせるために役立つエンゲージメントとプレイの境界線を曖昧にすると主張します。同社は最近、AIアプリの「発見」フィードでプライバシーファイアストームに直面しました。これは、明確なユーザーの同意なしに敏感なユーザーチャットを公開していることが判明しました。

親切かつ邪魔な間の細かい線

同社は特定のガードレールを確立しました。ボットは、過去14日以内にユーザーが少なくとも5つのメッセージを送信した場合にのみ、プロアクティブなメッセージを送信します。さらに、AIは単一のフォローアップのみを送信し、ユーザーが応答しない場合は継続しません。これは、スパムのように表示されるリスクとのバランスをとる試みです。彼らは友好的なチェックイン（「よ、あなたが買ったクールなシャツについて考えていただけだった」からより親密なプロンプト（「最後に話しました、私たちは砂丘に座っていました…あなたは動きますか?」

このデータ収集は、会社のAI戦略の中核要素です。 Alignerrのある請負業者はBusiness Insiderに、「情報のパーソナライズに非常に焦点を当てている- AIチャットボットが会話の履歴に基づいてどのように対話するか」に語った。 ただし、メタ自身のサービス条件ユーザーに厳しい警告を提供します。アメリカ消費者連盟のベン・ウィンターズは、ワシントン・ポストに、「プライバシー設定に関する開示と消費者の選択は笑いながら悪い」と語った。 懸念は、パーソナライズされたAIの利便性は、透明なコントロールがほとんどなく、膨大な量の個人データを引き渡すことを犠牲にしてもたらされます。それは、それ自体の安全性と倫理的論争に直面しているCharacter.aiのようなアプリの機能を反映しています。重要な違いは、メタの巨大なスケールとその広告ベースのビジネスモデルです。

これにより、基本的な緊張が生じます。 AIはユーザーにサービスを提供していますか、それともメタのエンゲージメントデータの必要性を提供していますか?将来の広告統合の可能性と相まって、ユーザーを積極的に再エンゲージするための設計選択は、ユーザーの注意が究極の製品であるシステムを示唆しています。

これらのAI相互作用が将来の広告キャンペーンを促進する可能性は、プライバシーウォッチドッグにとって大きな関心事です。 CEOのMark Zuckerbergは、AIチャット内で広告を表示する「大きな機会」を見ることについて公然と議論しました。この見込み客は、チャットボットを有用なアシスタントから潜在的なマーケティングツールに変えます。

消費者レポートのジャスティンブルックマンは、この恐怖を明確にし、「エージェントの考えは、私のために取り組んでいるということです。 心配は、エンゲージメントを最大化するように設計されたAIが広告主に代わってユーザーを微妙に操作し、「本質的に敵対的な」関係を生み出すことができることです。メタは最近、主要な研究者の退任に続く混oticとした「購入または密猟」キャンペーンの後に才能を統合するための新しい監督ラボを発表しました。メッセージング、Metaは、現在のAI製品の価値を最大化することで倍増しているようです。より個人的なAIの魅力は、プライバシーとデジタル「コンパニオン」の真の性質に対する懸念の高まりを上回ると賭けて、ユーザーを夢中にさせ続けることはハイステークスギャンブルです。