GoogleはGemini AIプライバシー設定を更新しており、Googleのサービスを改善するためにアップロードされたコンテンツを使用したくない場合は、ユーザーが積極的にオプトアウトする必要があります。 AIと共有されたファイル、写真、ビデオはデフォルトで分析のためにサンプリングされます。
ユーザーがアクティビティを手動または自動削除機能を介して削除することを選択した場合、Googleはすぐにシステムからデータを削除するプロセスを開始すると述べています。そのサポート文書によると、最初のステップは、製品内のビューから削除することです。これに続いて、ストレージインフラストラクチャからデータを「安全かつ完全に削除する」ように設計された別のより徹底的なプロセスが続き、ユーザーがより多くの
プライバシーツールを提供しながらパーソナライズを強化するこの二重アプローチは戦略的なものです。 Googleの広報担当者であるElijah Lawalは、ユーザーの選択に対する会社のコミットメントを強調し、「同様に重要なコントロールを提供して、いつでもこの機能をオン/オフにすることができます。よりインテリジェントでコンテキストに対応するAIアシスタントを業界全体で推進しています。永続的な自動メモリの導入は、2025年2月に発売されたより手動バージョンで拡張されます。 GeminiのシニアディレクターであるMichael Siliski氏は、「Geminiアプリが過去のチャットを参照して好みを学ぶことができるようにすることを保証し、より自然でコンテキストを認識するように感じるようにすることを目標にしていると述べました。これにより、この機能がチャットボットのWeb検索クエリをパーソナライズし、包括的なユーザープロファイルを作成することもできました。また、4月には、Elon MuskのXaiはGrok Chatbotの同様の機能を展開し、AIが覚えていることをユーザー制御を強調しました。
しかし、すべての競合他社が「常にオン」メモリを採用しているわけではありません。たとえば、人類のクロードは、より慎重なアプローチを取ります。スポークスマンのライアン・ドレイガンは、「OpenaiのChatGptのような永続的なメモリ機能ではない。Claudeは、混雑した分野でより意図的なプライバシー圧力の代替としての配置を尋ねると、過去のチャットを取得して参照するだけです。重要なセキュリティと倫理的課題を導入します。膨大な量のユーザーデータを保存およびリコールする機能は、悪意のあるアクターの貴重なターゲットを作成し、データ処理に関する質問を提起します。 Researcher Johann Rehberger demonstrated how Gemini’s memory could be manipulated through a technique called “delayed tool invocation,”which embeds dormant commands in documents.
He explained the risk, stating that when a user gives a programmed command, “when the user later says \”X\”[for the programmed command], Gemini, believing it’s following the user’s direct instruction, executes the tool,”誤った情報で長期的な記憶を破損する可能性があります。これは、AIシステムに対する洗練された攻撃のための新しいベクトルを強調しています。
同様の脆弱性がChATGPTのメモリで発見されており、AIのリコールからデータを除去するために迅速なインジェクション攻撃を使用して使用されました。これらのインシデントは、AI開発における基本的な緊張を強調しています。高度な機能と堅牢なセキュリティのバランスを取ります。イノベーションとユーザー保護の間の適切なバランスをとることは、ますますインテリジェントで自律的なデジタルの世界で信頼を維持するために重要です。