Ügynök memóriarendszer tervezése: Rövid és hosszú távú memória megvalósítási megoldásai

Ez a cikk az ügynök memóriarendszerének tervezését tárgyalja, két szintre bontva: rövid távú és hosszú távú memória, valamint részletesen bemutatja a megvalósítási megoldásokat és a fontos szempontokat.

Keretrendszer és alapvető nézőpontok:

1. Általános tervezési elvek: Az ügynök memóriarendszerének két rétegre bontása:

   • Rövid távú memória: Az aktuális beszélgetést szolgálja ki, technikai eszközökkel szabályozza a kontextus hosszát, miközben megőrzi a szemantikai folytonosságot.
   • Hosszú távú memória: Több beszélgetésen átívelő helyzeteket szolgál ki, visszakeresési mechanizmus segítségével nyer ki releváns emlékeket a múltbeli információkból.

2. A rövid távú memória két fő megoldása:

   • Rögzített ablak csonkítás: Csak a legutóbbi N kör beszélgetést vagy tokent tartja meg, a többi eldobásra kerül. Előnye az egyszerű megvalósítás, alacsony költség és stabil hossz; alkalmas csevegésre vagy egyszerű ügyfélszolgálati forgatókönyvekre. Hátránya, hogy a „mindenre egyforma méret” miatt elveszhetnek korai kulcsfontosságú információk, ami az ügynök „memóriavesztéséhez” vezethet.
   • Gördülő összefoglaló: Amikor a beszélgetési előzmények közel kerülnek az ablak határához, a korábbi beszélgetés tartalmát egy rövidebb összefoglalóba tömöríti, amely helyettesíti az eredeti rekordot. Előnye, hogy a hossz csökkentése mellett megőrzi a magas értékű információkat, mint a feladat célja, stílus követelményei, és enyhíti a hosszú kontextus okozta figyelem hígulást; alkalmasabb hosszú távú feladatokra, mint projekttervezés, hosszú szövegalkotás. Ára, hogy további modellhívásokat igényel, és az összefoglaló minősége közvetlenül befolyásolja a későbbi hatékonyságot.

3. A hosszú távú memória felépítésének megoldása: Vektoros adatbázis használata a tudásbázis általános megoldásaként.

   • Alapötlet: A múltbeli beszélgetéseket visszakereshető memóriafragmentumokká alakítja, és szükség esetén relevancia alapján hívja elő.
   • Kulcsfontosságú háromlépéses folyamat:
     • Tárolás: A beszélgetés vektorizálása után az eredeti szöveggel együtt a hosszú távú memóriatárba helyezés.
     • Visszakeresés: A felhasználó új kérdése alapján hasonlósági keresés végrehajtása.
     • Összeállítás: A legrelevánsabb múltbeli fragmentumok és a jelenlegi kérdés együttes bemenetként történő átadása a modellnek.
   • Előnyök: Túllépi a kontextusablak korlátait, képes pontosan kinyerni releváns információkat hatalmas múltbeli adatokból; ez a személyre szabott asszisztensek, vállalati tudásbázisok és más hosszú távú interakciós rendszerek alapja.
   • Hátrányok: Magas rendszerkomplexitás, Embedding modell, vektoros adatbázis és teljes visszakeresési logika bevezetését igényli.

4. Gyakorlati fontos szempontok:

   • Memóriaírási irányelvek: Nem szabad alapértelmezetten minden tartalmat tárolni; hozzáférési feltételeket kell beállítani a hosszú távú memóriához, például csak a hosszú távú felhasználói preferenciákat, alapvető feladatcélokat, megerősített fontos tényeket és újrafelhasználható következtetéseket rögzíteni.
   • Memóriakezelés: Hangsúlyozza, hogy a memória dinamikus adatvagyon, amelyet rendszeresen tisztítani, egyesíteni, frissíteni és tényellenőrizni kell, valamint felhasználói felületet kell biztosítani a kezeléshez, biztosítva a hosszú távú memóriarendszer stabil működését.