Agent-minnesystemdesign: Implementeringsløsninger for korttids- og langtidsminne

Denne artikkelen utforsker design av Agent-minnesystemer, delt inn i korttidsminne og langtidsminne, og gir detaljerte implementeringsløsninger og hensyn.

Rammeverk og kjernesynspunkter:

1. Overordnede designprinsipper: Del Agentens minnesystem i to lag:

   • Korttidsminne: Tjener den nåværende samtalen, kontrollerer kontekstlengde gjennom tekniske midler, samtidig som semantisk sammenheng opprettholdes.
   • Langtidsminne: Tjener tverrsamtalescenarier, henter relevant minne fra historisk informasjon etter behov gjennom søkemekanismer.

2. To hovedløsninger for korttidsminne:

   • Fast vinduavkorting: Beholder kun de siste N samtalene eller tokenene, og forkaster resten. Fordeler: enkel implementering, lave kostnader, stabil lengde, egnet for småprat eller enkle kundeservicescenarier. Ulemper: kan miste tidlig nøkkelinformasjon på grunn av "én størrelse passer alle", noe som fører til Agentens "hukommelsestap".
   • Rullesammendrag: Når samtaleloggen er i ferd med å overskride vinduet, oppsummeres tidligere samtaleinnhold til et kortere sammendrag som erstatter originaloppføringen. Fordeler: kan komprimere lengde samtidig som høyverdige opplysninger som oppdragsmål og stilbehov bevares, og reduserer oppmerksomhetsfortynning forårsaket av lang kontekst, bedre egnet for lange oppgaver som prosjektplanlegging og langformet kreativt arbeid. Ulemper: krever ekstra modellkall, og sammendragskvaliteten påvirker direkte etterfølgende effekt.

3. Konstruksjonsløsning for langtidsminne: Generell løsning for å bygge kunnskapsbase ved hjelp av vektordatabaser.

   • Kjerneprinsipp: Behandle tidligere samtaler til søkbare minnefragmenter, og hente frem etter relevans ved behov.
   • Tre nøkkeltrinn:
     • Lagring: Vektorisere samtalen og lagre den sammen med originalteksten i langtidsminnet.
     • Søk: Utfør likhetssøk basert på brukerens nye spørsmål.
     • Kombinasjon: Send de mest relevante historiske fragmentene sammen med det nåværende spørsmålet til modellen.
   • Fordeler: Bryter begrensningen av kontekstvinduet, kan nøyaktig hente relevant informasjon fra store mengder historie, og er grunnlaget for å bygge langsiktige interaksjonssystemer som personlige assistenter og bedriftskunnskapsbaser.
   • Ulemper: Høy systemkompleksitet, krever introduksjon av Embedding-modeller, vektordatabaser og et helt søkelogikksett.

4. Viktige hensyn i praksis:

   • Minneskrivingskriterier: Ikke lagre alt som standard, men sett adgangsbetingelser for langtidsminne, for eksempel kun lagre langsiktige brukerpreferanser, kjernemål, bekreftede viktige fakta og gjenbrukbare konklusjoner.
   • Minnestyring: Understrek at minne er en dynamisk dataressurs, må regelmessig renses, slås sammen, oppdateres og faktasjekkes, og gi brukergrensesnitt for administrasjon for å sikre stabil drift av langtidsminnesystemet.