Agentų atminties sistemos dizainas: trumpalaikės ir ilgalaikės atminties įgyvendinimo sprendimai

Šiame straipsnyje nagrinėjamas agentų atminties sistemos dizainas, skirstant ją į trumpalaikę ir ilgalaikę atmintį, bei išsamiai pristatomi jų įgyvendinimo sprendimai ir svarbiausi aspektai.

Pagrindiniai rėmai ir idėjos:

1. Bendrieji dizaino principai: Agentų atminties sistema skirstoma į du lygius:

   • Trumpalaikė atmintis: skirta esamam pokalbiui, kontroliuojant konteksto ilgį techninėmis priemonėmis, išlaikant semantinį vientisumą.
   • Ilgalaikė atmintis: skirta tarpseansiniams scenarijams, naudojant paieškos mechanizmus pagal poreikį išgauti susijusius prisiminimus iš istorinių duomenų.

2. Du pagrindiniai trumpalaikės atminties sprendimai:

   • Fiksuoto lango atkirpimas: išlaikomi tik paskutiniai N pokalbio ratų arba tokenų, o viršijanti dalis išmetama. Privalumai – paprastas įgyvendinimas, mažos sąnaudos, stabilus ilgis, tinka laisviems pokalbiams ar paprastoms klientų aptarnavimo sistemoms; trūkumai – gali prarasti ankstyvą svarbią informaciją dėl „vienodo kirpimo“, sukeldamas agento „amneziją“.
   • Slenkanti santrauka: kai pokalbio istorija artėja prie lango ribos, ankstyvoji pokalbio dalis apibendrinama į trumpesnę santrauką, pakeičiančią originalų įrašą. Privalumai – suspaudžiant ilgį, išlaikoma aukštos vertės informacija, pvz., užduoties tikslai, stiliaus reikalavimai, ir sumažinamas ilgo konteksto dėmesio išsklaidymas, todėl labiau tinka ilgoms užduotims, pvz., projektų planavimui, ilgų tekstų kūrimui; kaina – reikia papildomų modelio iškvietimų, o santraukos kokybė tiesiogiai veikia tolesnius rezultatus.

3. Ilgalaikės atminties kūrimo sprendimas: bendras sprendimas naudojant vektorinę duomenų bazę žinių bazei kurti.

   • Pagrindinė idėja: praeities pokalbiai paverčiami paieškos atminties fragmentais, kurie pagal poreikį atšaukiami pagal aktualumą.
   • Trys pagrindiniai žingsniai:
     • Saugojimas: pokalbiai vektorizuojami ir kartu su originaliu tekstu saugomi ilgalaikės atminties saugykloje.
     • Paieška: pagal naują vartotojo klausimą atliekama panašumo paieška.
     • Derinimas: aktualiausi istoriniai fragmentai kartu su esamu klausimu pateikiami modeliui.
   • Privalumai: peržengiamas konteksto lango apribojimas, galima tiksliai išgauti susijusią informaciją iš didžiulės istorijos; tai pagrindas kuriant ilgalaikes interaktyvias sistemas, tokias kaip personalizuoti asistentai, įmonių žinių bazės.
   • Trūkumai: didelis sistemos sudėtingumas, reikalaujantis įterpimo modelio, vektorinės duomenų bazės ir visos paieškos logikos.

4. Svarbūs praktiniai aspektai:

   • Atminties įrašymo kriterijai: nereikėtų pagal nutylėjimą saugoti visko; ilgalaikei atminčiai nustatykite priėjimo sąlygas, pvz., įrašykite tik ilgalaikius vartotojo pageidavimus, pagrindinius užduoties tikslus, patvirtintus svarbius faktus ir pakartotinai naudojamas išvadas.
   • Atminties valdymas: pabrėžiama, kad atmintis yra dinamiškas duomenų turtas, kurį reikia reguliariai valyti, sujungti, atnaujinti ir tikrinti faktus, taip pat suteikti vartotojui valdymo sąsają, siekiant užtikrinti stabilų ilgalaikės atminties sistemos veikimą.