Disenyo sa Sistema sa Memorya sa Ahente: Mga Solusyon sa Pagpatuman sa Mubo nga Panahon ug Taas nga Panahon nga Memorya

Kini nga artikulo naghisgot sa disenyo sa sistema sa memorya sa Ahente, gibahin kini sa duha ka lebel: mubo nga panahon nga memorya ug taas nga panahon nga memorya, ug detalyado nga nagpaila sa tagsa-tagsa nga mga solusyon sa pagpatuman ug mga konsiderasyon.

Balangkas ug Pangunang mga Punto:

1. Kinatibuk-ang Prinsipyo sa Disenyo: Bahina ang sistema sa memorya sa Ahente ngadto sa duha ka sapaw:

   • Mubo nga Panahon nga Memorya: Nag-alagad sa kasamtangan nga sesyon, pinaagi sa teknikal nga paagi aron makontrol ang gitas-on sa konteksto, samtang nagmintinar sa semantikong pagkahiusa.
   • Taas nga Panahon nga Memorya: Nag-alagad sa cross-session nga mga sitwasyon, pinaagi sa mekanismo sa pagkuha aron makuha ang may kalabutan nga mga handumanan gikan sa kasaysayan nga impormasyon kung gikinahanglan.

2. Duha ka Pangunang mga Solusyon alang sa Mubo nga Panahon nga Memorya:

   • Fixed Window Truncation: Magpabilin lamang sa pinaka-ulahing N ka mga round sa panag-istoryahanay o Token, ang sobra diretso nga ilabay. Ang bentaha mao ang yano nga pagpatuman, ubos nga gasto, ug lig-on nga gitas-on, angay alang sa yano nga chat o yano nga serbisyo sa kustomer; ang disbentaha mao ang posible nga pagkawala sa importante nga impormasyon sa sayo nga bahin tungod sa "one-size-fits-all" nga pamaagi, nga moresulta sa "pagkawala sa memorya" sa Ahente.
   • Rolling Summary: Kung ang kasaysayan sa panag-istoryahanay hapit na molapas sa bintana, i-summarize ang sayo nga mga bahin sa panag-istoryahanay ngadto sa usa ka mas mubo nga summary, aron ilisan ang orihinal nga rekord. Ang bentaha mao ang pag-compress sa gitas-on samtang nagpabilin sa taas nga bili nga impormasyon sama sa mga tumong sa buluhaton, mga kinahanglanon sa estilo, ug paghupay sa pagkunhod sa atensyon tungod sa taas nga konteksto, mas angay alang sa taas nga mga buluhaton sama sa pagplano sa proyekto, taas nga pagsulat; ang gasto mao ang dugang nga tawag sa modelo, ug ang kalidad sa summary direktang makaapekto sa sunod nga resulta.

3. Solusyon sa Pagtukod sa Taas nga Panahon nga Memorya: Kinatibuk-ang solusyon sa pagtukod sa base sa kahibalo gamit ang vector database.

   • Pangunang Ideya: Iproseso ang nangaging mga panag-istoryahanay ngadto sa mga handumanan nga makuha, ug kuhaa kini pinaagi sa pagkaparehas kung gikinahanglan.
   • Pangunang Tulo ka Lakang nga Proseso:
     • Pagtipig: I-vectorize ang panag-istoryahanay, ug tipigi kini uban sa orihinal nga teksto sa repositoryo sa taas nga panahon nga memorya.
     • Pagkuha: Paghimo og pagpangita sa pagkaparehas base sa bag-ong pangutana sa tiggamit.
     • Pagkombinar: I-input ang labing may kalabutan nga mga handumanan sa kasaysayan uban sa kasamtangan nga pangutana ngadto sa modelo.
   • Bentaha: Nakalapas sa limitasyon sa konteksto nga bintana, makakuha og tukma nga may kalabutan nga impormasyon gikan sa daghang kasaysayan, mao ang basehan sa pagtukod sa personal nga mga katabang, base sa kahibalo sa negosyo, ug uban pang mga long-term interactive system.
   • Disbentaha: Taas nga pagkakomplikado sa sistema, kinahanglan nga ipaila ang Embedding model, vector database, ug tibuok nga lohika sa pagkuha.

4. Importante nga mga Konsiderasyon sa Praktis:

   • Sukdanan sa Pagsulat sa Memorya: Dili angay nga tipigan ang tanang sulod pinaagi sa default, kondili magtakda og mga kondisyon sa pagdawat alang sa taas nga panahon nga memorya, pananglitan, isulat lamang ang dugay nga mga gusto sa tiggamit, pangunang mga tumong sa buluhaton, nakumpirma nga importante nga mga kamatuoran, ug magamit nga mga konklusyon.
   • Pagdumala sa Memorya: Gihatagan og gibug-aton nga ang memorya usa ka dinamikong asset sa datos, kinahanglan nga regular nga limpyohan, i-merge, i-update, ug i-verify ang mga kamatuoran, ug maghatag og interface sa pagdumala alang sa mga tiggamit, aron masiguro ang lig-on nga operasyon sa taas nga panahon nga memorya nga sistema.