Агент жады жүйесін жобалау: қысқа мерзімді және ұзақ мерзімді жадты іске асыру тәсілдері

Бұл мақалада Агент жады жүйесінің жобасы қарастырылып, ол қысқа мерзімді және ұзақ мерзімді жад деп екі деңгейге бөлінеді. Әрқайсысының іске асыру тәсілдері мен ескертулері егжей-тегжейлі сипатталған.

Негізгі құрылым мен тұжырымдар:

1. Жалпы жобалау принципі: Агенттің жады жүйесін екі қабатқа бөлу:

   • Қысқа мерзімді жад: Ағымдағы сессияға қызмет етеді, контекст ұзындығын басқару үшін техникалық әдістер қолданылады, сонымен бірге семантикалық үйлесімділік сақталады.
   • Ұзақ мерзімді жад: Сессияаралық сценарийлерге қызмет етеді, іздеу механизмі арқылы тарихи ақпараттан қажетті жадты сұраныс бойынша алады.

2. Қысқа мерзімді жадтың екі негізгі тәсілі:

   • Тұрақты терезе кесу: Тек соңғы N раунд диалог немесе Token сақталады, қалғаны тікелей тасталады. Артықшылығы: іске асыру қарапайым, шығыны аз, ұзындығы тұрақты, әңгімелесу немесе қарапайым қолдау қызметі сценарийлеріне жарамды. Кемшілігі: «бір қию» салдарынан ертедегі маңызды ақпарат жоғалып, Агент «естен шығаруы» мүмкін.
   • Айналмалы түйіндеме: Диалог тарихы терезе шегінен асып кеткенде, ерте диалог мазмұны қысқа түйіндемеге жинақталып, бастапқы жазбаны алмастырады. Артықшылығы: ұзындықты қысу кезінде тапсырма мақсаттары, стиль талаптары сияқты жоғары құнды ақпаратты сақтайды, ұзақ контекстке байланысты назардың әлсіреуін азайтады, жобаны жоспарлау, ұзақ шығарма жазу сияқты ұзақ тапсырмаларға қолайлы. Бағасы: қосымша модель шақыруын қажет етеді, түйіндеме сапасы кейінгі нәтижелерге тікелей әсер етеді.

3. Ұзақ мерзімді жадты құру тәсілі: Векторлық дерекқорды пайдаланып білім қорын құрудың жалпы тәсілі.

   • Негізгі идея: Өткен диалогтарды іздеуге болатын жад фрагменттеріне өңдеу, қажет болғанда өзектілігі бойынша шақыру.
   • Үш негізгі қадам:
     • Сақтау: Диалогты векторлау, содан кейін түпнұсқа мәтінмен бірге ұзақ мерзімді жад қоймасына сақтау.
     • Іздеу: Пайдаланушының жаңа сұрағы бойынша ұқсастық іздеу.
     • Біріктіру: Ең өзекті тарихи фрагменттерді ағымдағы сұрақпен бірге модельге енгізу.
   • Артықшылығы: Контекст терезесінің шектеулерін еңсеріп, үлкен тарихтан дәл ақпарат алуға мүмкіндік береді, бұл жекелендірілген көмекшілер, кәсіпорын білім қорлары сияқты ұзақ мерзімді өзара әрекеттесу жүйелерінің негізі.
   • Кемшілігі: Жүйе күрделілігі жоғары, Embedding моделін, векторлық дерекқорды және толық іздеу логикасын енгізуді қажет етеді.

4. Тәжірибедегі маңызды ойлар:

   • Жад жазу ережесі: Барлық мазмұнды әдепкі бойынша сақтауға болмайды, ұзақ мерзімді жадқа кіру шарттарын орнату керек, мысалы, тек ұзақ мерзімді пайдаланушы қалауларын, негізгі тапсырма мақсаттарын, расталған маңызды фактілерді және қайта пайдалануға болатын қорытындыларды жазу.
   • Жадты басқару: Жад динамикалық деректер активі болып табылады, оны үнемі тазалау, біріктіру, жаңарту және фактілерді тексеру қажет, сонымен қатар пайдаланушыға басқару интерфейсін ұсыну керек, бұл ұзақ мерзімді жад жүйесінің тұрақты жұмысын қамтамасыз етеді.