Agendi mälusüsteemi disain: lühiajalise ja pikaajalise mälu realiseerimislahendused

Käesolev artikkel käsitleb agendi mälusüsteemi disaini, jagades selle lühiajaliseks ja pikaajaliseks mäluks, ning tutvustab üksikasjalikult nende realiseerimislahendusi ja olulisi tähelepanekuid.

Raamistik ja põhiseisukohad:

1. Üldised disainipõhimõtted: Agendi mälusüsteem jaguneb kaheks kihiks:

   • Lühiajaline mälu: teenindab praegust vestlust, kontrollides konteksti pikkust tehniliste vahenditega, säilitades samal ajal semantilise sidususe.
   • Pikaajaline mälu: teenindab üle seansside ulatuvaid stsenaariume, kasutades otsingumehhanismi, et vajadusel ajaloost asjakohaseid mälestusi välja tuua.

2. Kaks peamist lühiajalise mälu lahendust:

   • Fikseeritud akna kärpimine: säilitatakse ainult viimased N vestlusringi või tokenit, ülejäänud osa visatakse otse ära. Eelised: lihtne realiseerida, madalad kulud, stabiilne pikkus, sobib juhuslikeks vestlusteks või lihtsateks klienditeenindusstsenaariumiteks; puudused: võib "ühe hoobiga" kaotada varajase olulise teabe, põhjustades agendi "mälukaotust".
   • Rulluv kokkuvõte: kui vestlusajalugu hakkab akna piiri ületama, võetakse varasem vestlussisu kokku lühemaks kokkuvõtteks, mis asendab algse kirje. Eelised: võimaldab pikkust kokku surudes säilitada kõrge väärtusega teavet, nagu ülesande eesmärgid ja stiilinõuded, ning leevendab pika konteksti põhjustatud tähelepanu hajumist, sobib paremini pikkade ülesannete jaoks nagu projektide planeerimine ja pikkade tekstide loomine; hind: vajab täiendavaid mudelikutseid ja kokkuvõtte kvaliteet mõjutab otseselt edasist tulemust.

3. Pikaajalise mälu ülesehituslahendus: üldine lahendus teadmusbaasi loomiseks vektoriandmebaasi abil.

   • Põhiidee: töödelda varasemad vestlused otsitavateks mälufragmentideks, mida vajadusel asjakohasuse alusel välja tuua.
   • Kolm peamist sammu:
     • Salvestamine: vestluse vektoriseerimine ja koos originaaltekstiga pikaajalisse mälupanka salvestamine.
     • Otsing: sarnasuse otsing vastavalt kasutaja uuele küsimusele.
     • Kombineerimine: kõige asjakohasemad ajaloolised fragmendid koos praeguse küsimusega mudelile sisestamine.
   • Eelised: ületab kontekstiakna piiranguid, võimaldades tohutust ajaloost täpselt asjakohast teavet välja tuua, olles aluseks pikaajalistele interaktiivsetele süsteemidele nagu isikupärastatud assistendid ja ettevõtte teadmusbaasid.
   • Puudused: süsteemi keerukus on suur, vajab Embedding-mudeli, vektoriandmebaasi ja kogu otsinguloogika kasutuselevõttu.

4. Olulised kaalutlused praktikas:

   • Mälu kirjutamise juhised: vaikimisi ei tohiks kogu sisu salvestada, vaid pikaajalise mälu jaoks tuleks seada sisenemistingimused, näiteks salvestada ainult pikaajalised kasutajaeelistused, põhiülesande eesmärgid, kinnitatud olulised faktid ja korduvkasutatavad järeldused.
   • Mälu haldamine: rõhutatakse, et mälu on dünaamiline andmevara, mida tuleb regulaarselt puhastada, liita, uuendada ja faktiliselt kontrollida, ning pakkuda kasutajale haldusliidest, et tagada pikaajalise mälusüsteemi stabiilne toimimine.