Ang
Anthropic ay naghahanda upang magbigay ng kasangkapan sa katulong na AI, Claude, na may tampok na memorya, isang madiskarteng paglipat upang isara ang isang kritikal na agwat ng pag-andar sa mga punong karibal nito. Ang nakaplanong pag-update, hindi pa opisyal na inihayag ng kumpanya, ay natuklasan matapos makita ng mga gumagamit ang bagong code na sumangguni sa kakayahan sa isang kamakailang pag-update ng mobile app. Ang posisyon ng pag-unlad na ito ay claude na direktang makipagkumpetensya sa OpenAi’s Chatgpt, Google’s Gemini, at Xai’s Grok, na ang lahat ay gumawa ng pag-uusap sa isang sentral na haligi ng kanilang karanasan sa gumagamit. target=”_ blangko”> Isang gumagamit sa x na walang takip ang mga bagong elemento ng interface. Para sa antropiko, ang pagdaragdag ng memorya ay hindi na isang opsyonal na pagpapahusay ngunit isang mapagkumpitensyang pangangailangan. Ang tampok na ito ay nangangako na makagawa ng mga pakikipag-ugnay sa Claude na mas walang tahi sa pamamagitan ng pagpapahintulot sa ito na alalahanin ang mga kagustuhan at konteksto ng gumagamit mula sa mga nakaraang chat, tinanggal ang isang karaniwang punto ng alitan para sa mga gumagamit. Ayon sa paunang ulat, ang Claude ay maaari ring makakuha ng kakayahang i-embed ang pag-andar nito nang direkta sa loob ng tampok na”artifact”, isang sidebar space para sa interactive na nilalaman. Habang pumapasok ang Anthropic sa arena na ito, nagmamana ito hindi lamang mga pakinabang ng isang mas personalized na AI kundi pati na rin ang kumplikadong mga hamon ng kontrol ng gumagamit at seguridad na tinukoy ang AI memory landscape. Lahi ng Arms Itinakda ng OpenAi ang bilis, na nagbabago ng mga kakayahan sa memorya nito nang malaki mula noong unang bahagi ng 2024. Ang kumpanya ay unang nagpalawak ng isang pangunahing pag-andar ng memorya para sa mga plus na tagasuskribi nito noong Mayo, na hinihiling ng mga gumagamit na malinaw na makatipid ng mga katotohanan. Noong Abril, ito ay nagbago sa isang mas advanced na sistema na maaaring tahasang sumangguni sa buong kasaysayan ng chat ng isang gumagamit upang magbigay ng konteksto. Noong Pebrero, isinama ng Google ang memorya ng cross-chat sa bayad na serbisyo ng advanced na Gemini, na pinapayagan ang katulong na gumuhit mula sa mga nakaraang pag-uusap upang ipaalam sa mga kasalukuyang. Pagkalipas lamang ng dalawang buwan, noong Abril, inihayag ng Elon Musk’s Xai na ang Grok Chatbot ay nakakakuha din ng tampok na memorya. Ang malabo na paglabas na ito mula sa mga nangungunang lab ng industriya ay matatag na itinatag na ang hinaharap ng mga katulong sa AI ay hindi lamang tungkol sa pagsagot sa mga katanungan, ngunit tungkol sa pagbuo ng isang tuluy-tuloy, umuusbong na diyalogo sa gumagamit. Ang two-tiered system ni Openai, na detalyado sa opisyal na faq , nakikilala sa pagitan ng malinaw na”nai-save na mga alaala”na maaaring tingnan ng mga gumagamit at tanggalin, at ang implicit na sanggunian sa kasaysayan ng chat, na maaaring kapansanan lamang. Sa kabaligtaran, nang ilunsad ni Xai ang memorya ni Grok, ang anunsyo sa x diin na transparency, [Y] makikita mo mismo kung ano ang alam ni Grok at piliin kung ano ang dapat kalimutan.”Ang Google, para sa bahagi nito, na nakatuon sa kahusayan, na nagpapaliwanag sa isang blog post Na ang layunin ay upang maiwasan ang mga gumagamit mula sa pagkakaroon upang magsimula mula sa simula. Alalahanin at pagbibigay ng mga gumagamit ng malinaw, mapapamahalaan na mga kontrol sa kanilang sariling data. Ang pinaka makabuluhang banta ay ang pag-iniksyon ng iniksyon, kung saan ang mga nakakahamak na tagubilin na nakatago sa mga dokumento o iba pang data ay maaaring linlangin ang isang AI sa pagsira sa memorya nito o, mas masahol pa, exfiltrating sensitibong impormasyon ng gumagamit. Ang panganib na ito ay hindi teoretikal. Ang mananaliksik ng cybersecurity na si Johann Rehberger ay nagpakita ng gayong kahinaan sa parehong chatgpt At ang Google Gemini. manipulahin ang memorya ng AI. Tulad ng ipinaliwanag ni Rehberger,”Kapag sinabi ng gumagamit na”x”[para sa na-program na utos], si Gemini, na naniniwala na sumusunod ito sa direktang tagubilin ng gumagamit, ay nagsasagawa ng tool.”Ang isang detalyadong pag-aaral ng kaso na nai-publish sa github dokumentado ang mga makabuluhang pagkagambala sa daloy ng trabaho kapag ginagamit ang chatgpt para sa mga gawain na mabibigat na dokumento. Seryosong nakakagambala sa aking daloy ng trabaho kapag nagtatrabaho sa mga dokumento”-isang problema na binibigyang diin ang napakalawak na teknikal na hamon ng pagbuo ng isang maaasahang at secure na sistema ng memorya sa sukat. Ang pagpasok ni Anthropic sa lahi ng memorya ng armas ay nangangahulugang hindi lamang ito hinahabol ng isang tampok, ngunit kinakaharap din ang malalim na seguridad at etikal na responsibilidad na kasama nito. Ayon sa isang kamakailang artikulo mula sa bagong stack , ang antropiko ay nahaharap na sa pagsisiyasat sa mga kasanayan sa data nito. Noong Hunyo 4, nagsampa si Reddit ng isang ligal na reklamo laban sa kumpanya, na sinasabing”sinanay sa personal na data ng mga gumagamit ng Reddit nang hindi humihiling ng kanilang pahintulot.”Upang mabuo ang mga modelo nito. Ang demanda na ito ay nagtataas ng mga pangunahing katanungan tungkol sa data na sumusuporta sa mismong”mga alaala”na ito ay itinatayo upang magkaroon.