Ajan Bellek Sistemi Tasarımı: Kısa ve Uzun Süreli Bellek Uygulama Çözümleri

Bu makale, Ajan bellek sistemi tasarımını kısa süreli ve uzun süreli bellek olmak üzere iki katmana ayırarak incelemekte ve her birinin uygulama çözümleri ile dikkat edilmesi gereken noktaları detaylandırmaktadır.

Çerçeve ve Temel Görüşler:

1. Genel Tasarım İlkesi: Ajan'ın bellek sistemi iki katmana ayrılır:

   • Kısa Süreli Bellek: Mevcut oturuma hizmet eder, teknik yöntemlerle bağlam uzunluğu kontrol edilirken anlamsal tutarlılık korunur.
   • Uzun Süreli Bellek: Oturumlar arası senaryolara hizmet eder, geçmiş bilgilerden ihtiyaç duyulan anıları geri getirme mekanizmasıyla seçici olarak alır.

2. Kısa Süreli Bellek İçin İki Ana Çözüm:

   • Sabit Pencere Kesintisi: Yalnızca son N tur diyalog veya Token korunur, fazlası doğrudan atılır. Avantajları: basit uygulama, düşük maliyet, sabit uzunluk; sohbet veya basit müşteri hizmetleri senaryoları için uygundur. Dezavantajı: "tek tip kesinti" nedeniyle erken kritik bilgiler kaybolabilir, Ajan'ın "hafıza kaybına" yol açar.
   • Kayan Özet: Diyalog geçmişi pencereyi aşmak üzereyken, erken diyalog içeriği daha kısa bir özete dönüştürülerek orijinal kaydın yerine geçer. Avantajları: uzunluğu sıkıştırırken görev hedefleri, stil gereksinimleri gibi yüksek değerli bilgileri korur ve uzun bağlamın neden olduğu dikkat dağılmasını hafifletir; proje planlama, uzun metin oluşturma gibi uzun görevler için daha uygundur. Dezavantajı: ek model çağrısı gerektirir ve özet kalitesi sonraki etkiyi doğrudan etkiler.

3. Uzun Süreli Bellek Oluşturma Çözümü: Vektör veritabanı kullanarak bilgi tabanı oluşturmak için genel çözüm.

   • Temel Fikir: Geçmiş diyalogları aranabilir bellek parçalarına dönüştürmek ve gerektiğinde ilgiye göre geri çağırmak.
   • Anahtar Üç Adımlı Süreç:
     • Depolama: Diyaloğu vektörleştirdikten sonra orijinal metinle birlikte uzun süreli bellek deposuna kaydetme.
     • Getirme: Kullanıcının yeni sorusuna göre benzerlik araması yapma.
     • Birleştirme: En ilgili geçmiş parçaları mevcut soruyla birlikte modele girdi olarak verme.
   • Avantajları: Bağlam penceresi sınırlamasını aşar, büyük miktarda geçmişten hassas bir şekilde ilgili bilgi çıkarabilir; kişiselleştirilmiş asistanlar, kurumsal bilgi tabanları gibi uzun vadeli etkileşim sistemleri oluşturmanın temelidir.
   • Dezavantajları: Sistem karmaşıklığı yüksektir; Embedding modeli, vektör veritabanı ve tüm getirme mantığının eklenmesini gerektirir.

4. Pratikte Önemli Hususlar:

   • Bellek Yazma Kriterleri: Varsayılan olarak tüm içeriği depolamak yerine, uzun süreli bellek için kabul koşulları belirlenmelidir; örneğin yalnızca uzun vadeli kullanıcı tercihleri, temel görev hedefleri, onaylanmış önemli gerçekler ve yeniden kullanılabilir sonuçlar yazılmalıdır.
   • Bellek Yönetimi: Belleğin dinamik bir veri varlığı olduğu vurgulanmalı; düzenli temizlik, birleştirme, güncelleme ve doğruluk kontrolü yapılmalı ve kullanıcılara yönetim arayüzü sağlanarak uzun süreli bellek sisteminin istikrarlı çalışması garanti altına alınmalıdır.