طراحی سیستم حافظه Agent: راه‌حل‌های پیاده‌سازی حافظه کوتاه‌مدت و بلندمدت

این مقاله به بررسی طراحی سیستم حافظه Agent می‌پردازد و آن را به دو سطح حافظه کوتاه‌مدت و بلندمدت تقسیم می‌کند و راه‌حل‌های پیاده‌سازی و نکات مربوط به هر یک را به تفصیل شرح می‌دهد.

چارچوب و دیدگاه‌های اصلی به شرح زیر است:

1. اصول کلی طراحی: سیستم حافظه Agent را به دو لایه تقسیم کنید:

   • حافظه کوتاه‌مدت: برای جلسه جاری استفاده می‌شود و طول زمینه را از طریق تکنیک‌های فنی کنترل می‌کند و در عین حال انسجام معنایی را حفظ می‌کند.
   • حافظه بلندمدت: برای سناریوهای بین جلسه‌ای استفاده می‌شود و از طریق مکانیسم‌های بازیابی، خاطرات مرتبط را از اطلاعات تاریخی به‌صورت موردی استخراج می‌کند.

2. دو راه‌حل اصلی برای حافظه کوتاه‌مدت:

   • قطع پنجره ثابت: فقط آخرین N دور گفتگو یا توکن را نگه می‌دارد و مازاد آن را مستقیماً دور می‌ریزد. مزایا: پیاده‌سازی ساده، هزینه کم، طول ثابت، مناسب برای گپ‌های معمولی یا سناریوهای خدمات مشتری ساده. معایب: ممکن است به دلیل "یک‌سان‌بری" اطلاعات کلیدی اولیه را از دست بدهد و باعث "فراموشی" Agent شود.
   • خلاصه‌سازی غلتان: هنگامی که تاریخچه گفتگو در شرف فراتر رفتن از پنجره است، محتوای اولیه گفتگو را به یک خلاصه کوتاه‌تر تبدیل می‌کند تا جایگزین رکورد اصلی شود. مزایا: می‌تواند ضمن فشرده‌سازی طول، اطلاعات باارزشی مانند اهداف وظیفه و ترجیحات سبک را حفظ کند و رقیق‌شدن توجه ناشی از زمینه طولانی را کاهش دهد، مناسب‌تر برای وظایف طولانی مانند برنامه‌ریزی پروژه و نوشتن طولانی. هزینه: نیاز به فراخوانی مدل اضافی دارد و کیفیت خلاصه‌سازی مستقیماً بر اثرات بعدی تأثیر می‌گذارد.

3. راه‌حل ساخت حافظه بلندمدت: استفاده از پایگاه داده برداری برای ساخت پایگاه دانش.

   • ایده اصلی: گفتگوهای گذشته را به قطعات خاطره قابل بازیابی تبدیل کنید و در صورت نیاز بر اساس ارتباط فراخوانی کنید.
   • سه مرحله کلیدی:
     • ذخیره‌سازی: گفتگو را برداری کرده و همراه با متن اصلی در مخزن حافظه بلندمدت ذخیره کنید.
     • بازیابی: بر اساس سؤال جدید کاربر، جستجوی شباهت انجام دهید.
     • ترکیب: مرتبط‌ترین قطعات تاریخی را همراه با سؤال فعلی به مدل وارد کنید.
   • مزایا: محدودیت پنجره زمینه را شکسته و می‌تواند اطلاعات مرتبط را از تاریخچه عظیم به‌دقت استخراج کند، که پایه‌ای برای ساخت سیستم‌های تعاملی بلندمدت مانند دستیاران شخصی و پایگاه‌های دانش سازمانی است.
   • معایب: پیچیدگی سیستم بالا است و نیاز به معرفی مدل Embedding، پایگاه داده برداری و منطق بازیابی کامل دارد.

4. ملاحظات مهم عملی:

   • معیارهای نوشتن حافظه: نباید به‌طور پیش‌فرض همه محتوا را ذخیره کرد، بلکه باید شرایط ورود را برای حافظه بلندمدت تعیین کرد، مثلاً فقط ترجیحات بلندمدت کاربر، اهداف اصلی وظیفه، حقایق مهم تأییدشده و نتایج قابل استفاده مجدد را ذخیره کرد.
   • مدیریت حافظه: تأکید می‌کند که حافظه یک دارایی داده پویا است و باید به‌طور منظم پاک‌سازی، ادغام، به‌روزرسانی و اعتبارسنجی واقعی شود و رابط مدیریتی برای کاربران فراهم شود تا از عملکرد پایدار سیستم حافظه بلندمدت اطمینان حاصل شود.