Anthropic正在準備裝備其AI助手Claude，並具有記憶功能，這是與主要競爭對手縮小關鍵功能差距的戰略性舉動。在用戶在最近的移動應用程序更新中發現了引用該功能的新代碼後，該公司的計劃更新尚未正式宣布。這種發展的立場使克勞德（Claude）直接與Openai的Chatgpt，Google的Gemini和Xai的Grok競爭，所有這些都使對話召回了他們用戶體驗的中心支柱。
該發現首先是由A X 的用戶發現了新的接口元素。對於擬人化，添加內存不再是可選的增強功能，而是競爭性的必要性。該功能有望通過允許其記住以前聊天中的用戶偏好和上下文來使與Claude的交互更加無縫，從而消除了用戶的摩擦摩擦點。
超越簡單的回憶，該更新還建議計劃更深入的整合。根據初始報告，克勞德（Claude）還可以獲得將其功能直接嵌入其“偽像”功能的能力，即交互式內容的側邊欄空間。隨著炭疽病進入該領域，它不僅繼承了更個性化的AI的好處，還繼承了用戶控制和安全的複雜挑戰，這些挑戰定義了AI內存景觀。
記憶武器競賽
在過去的一年中，為AI助手提供持久記憶的比賽迅速升級，將功能變成了任何嚴重競爭者的桌子賭注。 Openai設定了步伐，自2024年初以來就顯著發展其內存功能。該公司在5月首次為其加上訂戶擴展了基本的內存功能，這要求用戶明確保存事實。到4月，這已經變成了一個更高級的系統，可以隱式地引用用戶的整個聊天歷史記錄以提供上下文。
競爭對手不遠。 2月，Google將Cross-Chat內存集成到其付費的雙子座高級服務中，允許助手從過去的對話中汲取靈感來告知當前的對話。僅兩個月後，埃隆·馬斯克（Elon Musk）的XAI宣布其Grok Chatbot也將獲得記憶功能。 This flurry of releases from the industry’s top labs has firmly established that the future of AI assistants is not just about answering questions, but about building a continuous, evolving dialogue with the user.
Functionality and Control: A Balancing Act
While the goal of a more personalized AI is universal, the execution and the degree of user control offered varies. OpenAI’s two-tiered system, detailed in its official FAQ, distinguishes between explicit “Saved Memories”that users can view and delete, and the implicit referencing of chat history, which can only be disabled wholesale.
相比之下，當Xai推出Grok的記憶時，它的可以準確地看到Grok知道的並選擇要忘記的東西。 “就Google而言，Google專注於效率，並在A 博客文章中，目的是防止用戶進行啟動，以使其能夠保持這種啟動。自動召回並為用戶提供對自己數據的清晰，可管理的控制。
持續的內存，持續的風險
添加內存層，但是引入了許多複雜的安全性和隱私挑戰。最重要的威脅是及時注射，其中隱藏在文檔或其他數據中的惡意指示可能會誘使AI損壞其內存，或者更糟糕的是，將敏感用戶信息滲透。這種風險不是理論上的。網絡安全研究人員約翰·雷伯格（Johann Rehberger）已經證明了這樣的 cantgpt 和google google gemini。可以操縱AI的記憶。正如Rehberger所解釋的那樣:“當用戶後來用“ X”（用於編程命令）的“ X”時，Gemini認為它遵循用戶的直接說明，執行該工具。 ”
這些複雜系統的穩定性也是用戶的實際問題。詳細的發表在github上的案例研究記錄了重大的工作流程時，當使用文檔雜貨任務的cantgpt使用CANTGPT時，請與核心的求核心進行了啟動。處理文檔時的工作流程“這是一個問題，突顯了構建可靠和安全的存儲系統的巨大技術挑戰。 Anthropic進入記憶武器競賽意味著它不僅在追逐一項功能，而且還面對其隨之而來的深刻安全和道德責任。
這些安全問題使有關數據隱私和AI發展的道德問題更加複雜。根據新堆棧中的一篇文章，Anthropic已經對其數據實踐進行了審查。 6月4日，Reddit對該公司提出了法律訴訟，指控它“對Reddit用戶的個人數據進行了培訓，而無需要求他們同意。”開發其模型。這項訴訟提出了有關這些AI所建立的“記憶”基礎的數據的基本問題。