Proiectarea sistemului de memorie al agentului: Implementarea memoriei pe termen scurt și lung

Acest articol explorează proiectarea sistemului de memorie al agentului, împărțindu-l în două niveluri: memoria pe termen scurt și memoria pe termen lung, și prezintă în detaliu schemele de implementare și considerațiile pentru fiecare.

Cadrul și punctele de vedere principale:

1. Principii generale de proiectare: Împărțirea sistemului de memorie al agentului în două niveluri:

   • Memoria pe termen scurt: Servește sesiunii curente, controlând lungimea contextului prin mijloace tehnice, menținând în același timp coerența semantică.
   • Memoria pe termen lung: Servește scenariilor inter-sesiuni, prin mecanisme de regăsire care extrag din istoric informațiile relevante la nevoie.

2. Două scheme principale pentru memoria pe termen scurt:

   • Trunchierea ferestrei fixe: Se păstrează doar ultimele N ture de dialog sau tokeni, restul fiind eliminate direct. Avantajele sunt simplitatea implementării, costul redus și lungimea stabilă, potrivită pentru conversații informale sau scenarii simple de asistență; dezavantajul este că poate pierde informații critice timpurii din cauza „tăierii uniforme”, ducând la „amnezia” agentului.
   • Rezumatul derulant: Când istoricul conversației este pe cale să depășească fereastra, conținutul timpuriu al dialogului este rezumat într-un rezumat mai scurt, care înlocuiește înregistrările originale. Avantajul este că, în timp ce comprimă lungimea, păstrează informații valoroase precum obiectivele sarcinii și cerințele de stil, și atenuează diluarea atenției cauzată de contexte lungi, fiind mai potrivit pentru sarcini lungi precum planificarea proiectelor sau scrierea de texte lungi; costul este că necesită apeluri suplimentare ale modelului, iar calitatea rezumatului afectează direct efectele ulterioare.

3. Schema de construire a memoriei pe termen lung: Schema generală de construire a unei baze de cunoștințe utilizând o bază de date vectorială.

   • Ideea centrală: Procesarea conversațiilor trecute în fragmente de memorie regăsibile, care sunt recuperate în funcție de relevanță atunci când este necesar.
   • Procesul cheie în trei pași:
     • Stocare: Vectorizarea conversației și stocarea împreună cu textul original în baza de memorie pe termen lung.
     • Regăsire: Căutarea prin similaritate pe baza noii întrebări a utilizatorului.
     • Combinare: Introducerea celor mai relevante fragmente istorice împreună cu întrebarea curentă în model.
   • Avantaje: Depășește limitările ferestrei de context, putând extrage cu precizie informații relevante dintr-un istoric vast, fiind baza pentru construirea de asistenți personalizați, baze de cunoștințe corporative și alte sisteme interactive pe termen lung.
   • Dezavantaje: Complexitate ridicată a sistemului, necesitând introducerea unui model de încorporare, a unei baze de date vectoriale și a întregii logici de regăsire.

4. Considerații practice importante:

   • Criterii de scriere a memoriei: Nu trebuie stocat implicit tot conținutul; în schimb, trebuie stabilite condiții de admitere pentru memoria pe termen lung, de exemplu, scrierea doar a preferințelor utilizatorului pe termen lung, a obiectivelor principale ale sarcinii, a faptelor importante confirmate și a concluziilor reutilizabile.
   • Gestionarea memoriei: Se subliniază că memoria este un activ de date dinamic, care trebuie curățat, îmbinat, actualizat și verificat periodic, iar utilizatorilor trebuie să li se ofere o interfață de gestionare, pentru a asigura funcționarea stabilă a sistemului de memorie pe termen lung.