Agent-Gedächtnissystem-Design: Implementierungslösungen für Kurzzeit- und Langzeitgedächtnis

Dieser Artikel untersucht das Design des Agent-Gedächtnissystems, unterteilt in Kurzzeit- und Langzeitgedächtnis, und stellt detaillierte Implementierungslösungen sowie wichtige Überlegungen vor.

Rahmen und Kernaussagen:

1. Allgemeines Designprinzip: Das Gedächtnissystem des Agenten wird in zwei Ebenen unterteilt:

   • Kurzzeitgedächtnis: Dient der aktuellen Sitzung, steuert die Kontextlänge durch technische Mittel und bewahrt gleichzeitig die semantische Kohärenz.
   • Langzeitgedächtnis: Dient sitzungsübergreifenden Szenarien und extrahiert bei Bedarf relevante Erinnerungen aus historischen Informationen über einen Abrufmechanismus.

2. Zwei Hauptansätze für das Kurzzeitgedächtnis:

   • Festes Fenster abschneiden: Nur die letzten N Dialogrunden oder Token werden behalten, der Rest wird verworfen. Vorteile: einfach zu implementieren, kostengünstig, stabile Länge, geeignet für lockere Gespräche oder einfache Kundendienstszenarien; Nachteile: Durch das „Abschneiden auf einen Schlag“ können frühere wichtige Informationen verloren gehen, was zu „Gedächtnisverlust“ des Agenten führt.
   • Rollierende Zusammenfassung: Wenn der Dialogverlauf das Fenster zu überschreiten droht, werden die frühen Dialoginhalte zu einer kürzeren Zusammenfassung verdichtet, die die Originalaufzeichnung ersetzt. Vorteile: Bei gleichzeitiger Komprimierung der Länge werden wertvolle Informationen wie Aufgabenziele und Stilpräferenzen bewahrt, und die durch lange Kontexte verursachte Aufmerksamkeitsverdünnung wird gemildert; besser geeignet für lange Aufgaben wie Projektplanung oder längere Texterstellung; Nachteil: Zusätzliche Modellaufrufe erforderlich, und die Qualität der Zusammenfassung beeinflusst direkt die nachfolgende Effektivität.

3. Aufbau des Langzeitgedächtnisses: Allgemeiner Ansatz unter Verwendung einer Vektordatenbank zur Erstellung einer Wissensdatenbank.

   • Kernidee: Vergangene Dialoge werden in abrufbare Gedächtnisfragmente verarbeitet, die bei Bedarf nach Relevanz abgerufen werden.
   • Drei wichtige Schritte:
     • Speichern: Dialoge werden vektorisiert und zusammen mit dem Originaltext im Langzeitgedächtnis gespeichert.
     • Abrufen: Basierend auf der neuen Benutzerfrage wird eine Ähnlichkeitssuche durchgeführt.
     • Kombinieren: Die relevantesten historischen Fragmente werden zusammen mit der aktuellen Frage in das Modell eingegeben.
   • Vorteile: Überwindet die Beschränkungen des Kontextfensters und ermöglicht die präzise Extraktion relevanter Informationen aus einer großen Menge historischer Daten; grundlegend für den Aufbau langfristiger Interaktionssysteme wie personalisierte Assistenten oder Unternehmenswissensdatenbanken.
   • Nachteile: Hohe Systemkomplexität, erfordert die Einführung von Embedding-Modellen, Vektordatenbanken und der gesamten Abruflogik.

4. Wichtige Überlegungen in der Praxis:

   • Richtlinien zum Schreiben von Erinnerungen: Nicht standardmäßig alle Inhalte speichern, sondern Zugangsbedingungen für das Langzeitgedächtnis festlegen, z. B. nur langfristige Benutzerpräferenzen, Kernaufgabenziele, bestätigte wichtige Fakten und wiederverwendbare Schlussfolgerungen speichern.
   • Gedächtnisverwaltung: Betont, dass Erinnerungen dynamische Datenbestände sind, die regelmäßig bereinigt, zusammengeführt, aktualisiert und auf Fakten überprüft werden müssen, und dass Benutzern eine Verwaltungsschnittstelle zur Verfügung gestellt werden muss, um den stabilen Betrieb des Langzeitgedächtnissystems zu gewährleisten.