KEPULAUAN RIAU — Couchbase merilis pembaruan AI Data Plane yang mengklaim mampu memangkas konsumsi token agen AI hingga 45 persen lewat fitur semantic caching dan memori agen. Pembaruan yang diumumkan 21 Oktober 2026 ini juga menghadirkan integrasi Amazon Bedrock, Managed Agent Memory, serta server MCP terkelola di AWS. Langkah tersebut menyasar perusahaan yang masih mengoperasikan tiga sampai empat sistem terpisah untuk menjalankan agen AI berskala besar.
Couchbase menyatukan penyimpanan memori, akses data operasional, pencarian, dan analitik ke dalam satu lapisan data. Perusahaan tidak lagi perlu merangkai beberapa sistem dengan mekanisme sinkronisasi dan pengamanan masing-masing.
Menurut Chief Product and Strategy Officer Couchbase Barry Morris, pendekatan terpisah justru menambah titik kegagalan. "Pelanggan yang membangun agen AI untuk beroperasi dalam skala besar membutuhkan lapisan data yang terintegrasi," kata Morris dalam keterangan tertulis.
Pembaruan mencakup empat kemampuan utama: integrasi Amazon Bedrock lewat semantic caching, Managed Agent Memory, Managed MCP Server, dan Operational Insights. Seluruhnya ditujukan agar agen AI bisa bekerja dengan konteks yang tersimpan, bukan memulai setiap interaksi dari nol.
Semantic caching memungkinkan aplikasi memakai ulang hasil pemrosesan pertanyaan yang maknanya mirip. Agen tidak perlu meminta model bahasa besar (LLM) memproses pertanyaan sejenis berulang kali.
Couchbase mengklaim pendekatan ini menekan pemanggilan model sebesar 40-60 persen. Angka itu diukur dari pengurangan permintaan ke LLM, bukan total biaya operasional.
Managed Agent Memory menyimpan profil pengguna, riwayat percakapan, dan informasi penting lintas sesi. Konteks tersebut bisa dipakai lagi di interaksi berikutnya tanpa perlu diulang.
Pengujian internal Couchbase memakai tolok ukur LoCoMo menunjukkan Agent Memory memangkas konsumsi token 33-45 persen. Token sendiri adalah unit pemrosesan teks yang menentukan biaya pemakaian banyak layanan model AI.
Klaim penghematan lain datang dari pengambilan konteks berbasis vektor, yang menurut Couchbase menghasilkan prompt hingga 70 persen lebih ringkas dibanding memasukkan seluruh konteks. Perusahaan menegaskan angka-angka itu mengukur aspek berbeda dan bukan persentase penghematan total.
Managed Agent Memory dan Managed MCP Server kini tersedia sebagai layanan cloud yang dikelola penuh di AWS. Server MCP membuka akses data Couchbase bagi agen AI melalui standar terbuka, sehingga pengembang tak perlu membangun dan merawat server sendiri.
Layanan ini mendukung kerangka pengembangan seperti LangGraph, CrewAI, dan LlamaIndex. Untuk tim engineering, artinya integrasi agen tidak lagi menuntut pekerjaan infrastruktur tambahan.
Operational Insights menggabungkan pencarian vektor dengan analisis data terstruktur lewat satu kueri SQL. Contoh penggunaannya: perusahaan menganalisis pendapatan per wilayah sekaligus mencari kelompok pelanggan yang menyampaikan kekecewaan.
Biaya token menjadi salah satu pos pengeluaran yang paling cepat membengkak ketika perusahaan menaikkan skala agen AI. Vendor infrastruktur data berlomba menawarkan lapisan yang bisa menekan pemanggilan model sekaligus menjaga konteks tetap konsisten.
Integrasi dengan Amazon Bedrock menempatkan Couchbase bersaing langsung dengan penyedia basis data dan platform AI lain yang juga membidik pelanggan enterprise di AWS. Diferensiasinya bertumpu pada penggabungan memori, pencarian vektor, dan SQL dalam satu platform.
"Pendekatan ini membantu pelanggan Couchbase menekan biaya, meningkatkan produktivitas, dan memperoleh hasil investasi yang lebih cepat dari inisiatif AI mereka," ujar Morris.
Seluruh kemampuan yang diumumkan sudah tersedia secara umum. Informasi harga dan paket layanan bisa diakses melalui situs resmi Couchbase.