Desain Sistem Memori Agent: Skema Implementasi Memori Jangka Pendek lan Jangka Panjang

Artikel iki mbahas desain sistem memori Agent, dipérang dadi rong lapisan: memori jangka pendek lan memori jangka panjang, sarta njlentrehake skema implementasi lan cathetan penting kanggo saben lapisan.

Kerangka lan Inti Pamikiran:

1. Prinsip Desain Umum: Sistem memori Agent dipérang dadi rong lapisan:

   • Memori Jangka Pendek: Nglayani sesi saiki, ngontrol dawa konteks liwat cara teknis, lan njaga koherensi semantik.
   • Memori Jangka Panjang: Nglayani skenario lintas sesi, njupuk memori sing relevan saka informasi historis liwat mekanisme retrieval.

2. Rong Skema Utama Memori Jangka Pendek:

   • Pemotongan Jendela Tetap: Mung nyimpen N babak utawa token paling anyar, sing liwati langsung dibuwang. Kaluwihane: implementasi prasaja, biaya murah, dawa stabil, cocok kanggo obrolan santai utawa layanan pelanggan prasaja; kekurangane: bisa ilang informasi penting awal amarga "potong rata", nyebabake Agent "lali".
   • Ringkasan Gulung: Nalika riwayat obrolan meh ngluwihi jendela, ringkesan sing luwih cekak digawe kanggo ngganti cathetan asli. Kaluwihane: bisa ngompres dawa lan njaga informasi bernilai dhuwur kaya target tugas, syarat gaya, lan nyuda pengenceran perhatian amarga konteks dawa, luwih cocok kanggo proyek perencanaan, nulis dawa, lsp.; biaya: mbutuhake panggilan model tambahan, lan kualitas ringkesan langsung mengaruhi efek sabanjure.

3. Skema Pembangunan Memori Jangka Panjang: Skema umum nggunakake basis data vektor kanggo mbangun basis pengetahuan.

   • Ide Inti: Ngolah obrolan kepungkur dadi fragmen memori sing bisa dijupuk, lan nalika perlu, dipanggil miturut relevansi.
   • Telung Langkah Kunci:
     • Panyimpenan: Vektorisasi obrolan, banjur disimpen bebarengan karo teks asli ing basis memori jangka panjang.
     • Retrieval: Nggoleki kesamaan miturut pitakonan anyar pangguna.
     • Gabungan: Fragmen historis sing paling relevan digabung karo pitakonan saiki kanggo diwenehake menyang model.
   • Kaluwihan: Ngatasi watesan jendela konteks, bisa njupuk informasi sing relevan kanthi tepat saka sejarah sing akeh, dadi dhasar kanggo mbangun asisten pribadi, basis pengetahuan perusahaan, lan sistem interaksi jangka panjang liyane.
   • Kekurangan: Kompleksitas sistem dhuwur, kudu ngenalake model Embedding, basis data vektor, lan logika retrieval sakabehe.

4. Pertimbangan Penting ing Praktik:

   • Kriteria Penulisan Memori: Ora kabeh isi kudu disimpen kanthi standar, nanging kudu nyetel syarat mlebu kanggo memori jangka panjang, kayata mung nyimpen preferensi pangguna jangka panjang, target tugas inti, fakta penting sing wis dikonfirmasi, lan kesimpulan sing bisa digunakake maneh.
   • Tata Kelola Memori: Memori minangka aset data dinamis, kudu di resiki, digabung, dianyari, lan diverifikasi fakta kanthi periodik, lan nyedhiyakake antarmuka manajemen kanggo pangguna, supaya sistem memori jangka panjang bisa mlaku kanthi stabil.