Reka Bentuk Sistem Memori Agent: Pelaksanaan Memori Jangka Pendek dan Jangka Panjang

Artikel ini membincangkan reka bentuk sistem memori Agent, membahagikannya kepada dua peringkat: memori jangka pendek dan memori jangka panjang, serta memperkenalkan secara terperinci pelaksanaan masing-masing dan pertimbangan penting.

Rangka Kerja dan Pandangan Teras:

1. Prinsip Reka Bentuk Keseluruhan: Membahagikan sistem memori Agent kepada dua lapisan:

   • Memori Jangka Pendek: Melayani sesi semasa, mengawal panjang konteks melalui teknik sambil mengekalkan kesinambungan semantik.
   • Memori Jangka Panjang: Melayani senario merentas sesi, mendapatkan semula memori yang relevan daripada maklumat sejarah melalui mekanisme carian.

2. Dua Skema Utama Memori Jangka Pendek:

   • Pemotongan Tetingkap Tetap: Hanya mengekalkan N pusingan perbualan atau Token terkini, selebihnya dibuang terus. Kelebihannya adalah mudah dilaksanakan, kos rendah, panjang stabil, sesuai untuk sembang santai atau senario perkhidmatan pelanggan mudah; kelemahannya adalah mungkin kehilangan maklumat penting awal akibat "potongan seragam", menyebabkan Agent "hilang ingatan".
   • Ringkasan Bergulir: Apabila sejarah perbualan hampir melebihi tetingkap, ringkaskan kandungan perbualan awal menjadi ringkasan yang lebih pendek untuk menggantikan rekod asal. Kelebihannya adalah dapat mengekalkan maklumat bernilai tinggi seperti matlamat tugas, keperluan gaya, sambil mengurangkan pencairan perhatian akibat konteks panjang, lebih sesuai untuk tugas panjang seperti perancangan projek, penulisan panjang; kosnya memerlukan panggilan model tambahan, dan kualiti ringkasan secara langsung mempengaruhi kesan seterusnya.

3. Skema Pembinaan Memori Jangka Panjang: Skema umum menggunakan pangkalan data vektor untuk membina pangkalan pengetahuan.

   • Idea Teras: Memproses perbualan lalu menjadi segmen memori yang boleh dicari, dan mendapatkan semula mengikut kaitan apabila diperlukan.
   • Tiga Langkah Utama:
     • Penyimpanan: Vektorkan perbualan, kemudian simpan bersama teks asal ke dalam pangkalan memori jangka panjang.
     • Carian: Lakukan carian persamaan berdasarkan soalan baharu pengguna.
     • Gabungan: Masukkan segmen sejarah yang paling relevan bersama soalan semasa ke dalam model.
   • Kelebihan: Mengatasi had tetingkap konteks, dapat mengekstrak maklumat relevan secara tepat daripada sejarah yang luas, merupakan asas untuk membina sistem interaktif jangka panjang seperti pembantu peribadi, pangkalan pengetahuan perusahaan.
   • Kelemahan: Kerumitan sistem tinggi, perlu memperkenalkan model Embedding, pangkalan data vektor dan keseluruhan logik carian.

4. Pertimbangan Penting dalam Amalan:

   • Kriteria Penulisan Memori: Tidak boleh menyimpan semua kandungan secara lalai, sebaliknya tetapkan syarat kemasukan untuk memori jangka panjang, contohnya hanya menulis keutamaan pengguna jangka panjang, matlamat tugas teras, fakta penting yang telah disahkan dan kesimpulan yang boleh diguna semula.
   • Tadbir Urus Memori: Menekankan bahawa memori adalah aset data dinamik, mesti menjalankan pembersihan, penggabungan, pengemaskinian dan pengesahan fakta secara berkala, serta menyediakan antara muka pengurusan untuk pengguna, bagi memastikan operasi stabil sistem memori jangka panjang.