Antropik sedang bersiap untuk melengkapi asisten AI-nya, Claude, dengan fitur memori, langkah strategis untuk menutup kesenjangan fungsionalitas kritis dengan saingan utamanya. Pembaruan yang direncanakan, belum secara resmi diumumkan oleh perusahaan, ditemukan setelah pengguna melihat kode baru yang merujuk kemampuan dalam pembaruan aplikasi seluler baru-baru ini. Pengembangan ini memposisikan Claude untuk bersaing secara langsung dengan Openai’s ChatGpt, Google’s Gemini, dan Xai’s Grok, yang semuanya telah membuat percakapan mengingat pilar sentral dari pengalaman pengguna mereka.
Penemuan ini pertama kali terlihat oleh Seorang pengguna di x yang telah menemukan elemen antarmuka baru. Untuk antropik, menambahkan memori bukan lagi peningkatan opsional tetapi kebutuhan kompetitif. Fitur ini menjanjikan untuk membuat interaksi dengan Claude lebih mulus dengan memungkinkannya untuk mengingat preferensi dan konteks pengguna dari obrolan sebelumnya, menghilangkan titik gesekan yang umum untuk pengguna.
Di luar penarikan sederhana, pembaruan tersebut juga menunjukkan integrasi yang lebih dalam direncanakan. Menurut laporan awal, Claude juga dapat memperoleh kemampuan untuk menanamkan fungsinya secara langsung dalam fitur”artefak”, ruang sidebar untuk konten interaktif. Saat antropik memasuki arena ini, ia mewarisi tidak hanya manfaat dari AI yang lebih personal tetapi juga tantangan kompleks dari kontrol pengguna dan keamanan yang telah mendefinisikan lanskap memori AI.
Perlombaan untuk memberi asisten AI memori yang terus-menerus telah meningkat dengan cepat selama setahun terakhir, mengubah fitur menjadi taruhan meja untuk setiap pesaing yang serius. Openai mengatur kecepatan, mengembangkan kemampuan memorinya secara signifikan sejak awal 2024. Perusahaan pertama-tama memperluas fungsi memori dasar untuk pelanggan Plus pada bulan Mei, yang mengharuskan pengguna untuk secara eksplisit menyimpan fakta. Pada bulan April, ini telah berubah menjadi sistem yang jauh lebih maju yang secara implisit dapat merujuk seluruh riwayat obrolan pengguna untuk memberikan konteks.
Pesaing tidak jauh di belakang. Pada bulan Februari, Google mengintegrasikan memori lintas-obrolan ke dalam layanan lanjutan Gemini yang dibayar, yang memungkinkan asisten untuk menarik dari percakapan masa lalu untuk menginformasikan yang saat ini. Hanya dua bulan kemudian, pada bulan April, XAI Elon Musk mengumumkan Grok Chatbot juga mendapatkan fitur memori. This flurry of releases from the industry’s top labs has firmly established that the future of AI assistants is not just about answering questions, but about building a continuous, evolving dialogue with the user.
Functionality and Control: A Balancing Act
While the goal of a more personalized AI is universal, the execution and the degree of user control offered varies. Sistem dua tingkat Openai, yang dirinci dalam faq , membedakan whane, yang tidak dapat dipenuhi oleh orang-orang yang dapat dilihat, yang dapat dilihat dan dihapus, dan rujukan, dan rujukan, dan rujukan, dan rujukan yang membedakan, dan menghapus sejarah.
Sebaliknya, ketika XAI meluncurkan memori Grok, pengumuman x Lihat dengan tepat apa yang diketahui Grok dan pilih apa yang harus dilupakan.”Google, untuk bagiannya, berfokus pada efisiensi, menjelaskan dalam Posting yang sama, bahwa tujuannya adalah untuk mencegah pengguna yang akan memulai dari goresan. Ingat dan memberi pengguna kontrol yang jelas dan dapat dikelola atas data mereka sendiri.
memori persisten, risiko persisten
Menambahkan lapisan memori, bagaimanapun, memperkenalkan sejumlah tantangan keamanan dan privasi yang kompleks. Ancaman yang paling signifikan adalah injeksi yang cepat, di mana instruksi jahat yang disembunyikan dalam dokumen atau data lain dapat menipu AI untuk merusak ingatannya atau, lebih buruk lagi, mengekspiltrasi informasi pengguna yang sensitif. Risiko ini tidak teoretis. Peneliti Cybersecurity Johann Rehberger telah menunjukkan Studi kasus yang diterbitkan pada github mendokumentasikan gangguan alur kerja yang baru, yang menyoroti delovasi yang disorot oleh para pengguna, “Pengguna yang disorot oleh Pengguna yang disorot oleh para Pengguna. Serius mengganggu alur kerja saya saat mengerjakan dokumen”-masalah yang menggarisbawahi tantangan teknis yang sangat besar untuk membangun sistem memori yang andal dan aman pada skala. Masuknya Anthropic ke dalam perlombaan senjata memori berarti tidak hanya mengejar fitur, tetapi juga menghadapi keamanan dan tanggung jawab etis yang mendalam yang menyertainya.
Kekhawatiran keamanan ini diperparah oleh pertanyaan yang lebih luas tentang privasi data dan etika pengembangan AI. Menurut Sebuah artikel baru-baru ini dari tumpukan baru , antropik sudah menghadapi pengawasan atas praktik data. Pada tanggal 4 Juni, Reddit mengajukan pengaduan hukum terhadap perusahaan, menuduhnya”dilatih pada data pribadi pengguna Reddit tanpa pernah meminta persetujuan mereka.”untuk mengembangkan modelnya. Gugatan ini menimbulkan pertanyaan mendasar tentang data yang mendasari”kenangan”AIS ini sedang dibangun untuk dimiliki.