AI Müsahibə Sualı 4: Agent Yaddaş Sistemi Dizaynı – Qısamüddətli və Uzunmüddətli Yaddaşın Həll Yolları
Agent Yaddaş Sistemi Dizaynı: Qısamüddətli və Uzunmüddətli Yaddaşın Həll Yolları
Bu məqalə Agent yaddaş sisteminin dizaynını araşdırır, onu qısamüddətli və uzunmüddətli yaddaş olmaqla iki səviyyəyə ayırır və hər birinin həll yolları ilə diqqət ediləcək məqamları ətraflı təsvir edir.
Çərçivə və Əsas Fikirlər:
-
Ümumi Dizayn Prinsipi: Agentin yaddaş sistemini iki qata ayırmaq:
- Qısamüddətli Yaddaş: Cari söhbətə xidmət edir, texniki vasitələrlə kontekst uzunluğunu idarə edir, eyni zamanda semantik ardıcıllığı qoruyur.
- Uzunmüddətli Yaddaş: Söhbətlərarası ssenarilərə xidmət edir, axtarış mexanizmi vasitəsilə tarixi məlumatlardan ehtiyaca uyğun xatirələri çıxarır.
-
Qısamüddətli Yaddaşın İki Əsas Həll Yolu:
- Sabit Pəncərə Kəsməsi: Yalnız son N dövrə və ya Token saxlanılır, qalanı atılır. Üstünlükləri: sadə tətbiq, aşağı xərc, sabit uzunluq; söhbət və ya sadə müştəri xidməti üçün uyğundur. Dezavantajı: erkən vacib məlumatlar itirilə bilər, Agentin “yaddaş itkisi”nə səbəb olar.
- Yuvarlanan Xülasə: Söhbət tarixi pəncərəni aşmaq üzrə olduqda, erkən hissələr daha qısa xülasə ilə əvəz olunur. Üstünlükləri: uzunluğu sıxarkən tapşırıq məqsədləri, üslub tələbləri kimi yüksək dəyərli məlumatları qoruyur və uzun kontekstdə diqqətin dağılmasını azaldır; layihə planlaması, uzun mətn yaradıcılığı kimi uzun tapşırıqlar üçün daha uyğundur. Qiyməti: əlavə model çağırışı tələb edir və xülasə keyfiyyəti sonrakı nəticələrə birbaşa təsir edir.
-
Uzunmüddətli Yaddaşın Qurulması Həll Yolu: Vektor verilənlər bazasından istifadə edərək bilik bazası qurmaq üçün ümumi həll yolu.
- Əsas Fikir: Keçmiş söhbətləri axtarıla bilən yaddaş parçalarına çevirmək, lazım olduqda uyğunluğa görə çağırmaq.
- Üç Əsas Addım Prosesi:
- Saxlama: Söhbəti vektorlaşdırıb orijinal mətnlə birlikdə uzunmüddətli yaddaş bazasına yerləşdirmək.
- Axtarış: İstifadəçinin yeni sualına əsasən oxşarlıq axtarışı aparmaq.
- Birləşdirmə: Ən uyğun tarixi parçaları cari sualla birlikdə modelə daxil etmək.
- Üstünlükləri: Kontekst pəncərəsinin məhdudiyyətini aşaraq böyük tarixi məlumatlardan dəqiq məlumat çıxarmağa imkan verir; fərdiləşdirilmiş köməkçi, müəssisə bilik bazası kimi uzunmüddətli qarşılıqlı sistemlərin əsasını təşkil edir.
- Dezavantajları: Sistem mürəkkəbliyi yüksəkdir; Embedding modeli, vektor verilənlər bazası və tam axtarış məntiqi tələb edir.
-
Praktikada Vacib Mülahizələr:
- Yaddaş Yazma Qaydası: Bütün məzmunu standart olaraq saxlamaq əvəzinə, uzunmüddətli yaddaş üçün giriş şərtləri təyin edilməlidir; məsələn, yalnız uzunmüddətli istifadəçi seçimləri, əsas tapşırıq məqsədləri, təsdiqlənmiş vacib faktlar və təkrar istifadə edilə bilən nəticələr yazılmalıdır.
- Yaddaş İdarəçiliyi: Yaddaşın dinamik məlumat aktivləri olduğu vurğulanır; müntəzəm təmizləmə, birləşdirmə, yeniləmə və fakt yoxlaması aparılmalı, istifadəçiyə idarəetmə interfeysi təqdim edilməlidir ki, uzunmüddətli yaddaş sisteminin sabit işləməsi təmin edilsin.
评论
暂无已展示的评论。
发表评论(匿名)