Zum Inhalt springen

Bereit, mit AnyBot loszulegen?

AnyBot Dokumentation
Agents

Gedächtnis

Agenten haben zwei Arten von Gedächtnis, ein dauerhaftes Langzeitgedächtnis, das du durch Training aufbaust, und ein Kurzzeitgedächtnis, das den Kontext innerhalb einer einzelnen Unterhaltung hält.

Ein AnyBot-Agent hat zwei Arten von Gedächtnis. Das Langzeitgedächtnis speichert dauerhafte Fakten über dein Unternehmen, die sich durch jede Unterhaltung des Agenten ziehen. Das Unterhaltungsgedächtnis hält den Kontext eines einzelnen Chats (was gerade gesagt wurde und welche Dinge der Agent bereits nachgeschlagen hat), sodass er nie erneut nach etwas fragt, das der Kunde einen Moment zuvor beantwortet hat. Zusammen sorgen sie dafür, dass sich der Agent anfühlt, als würde er dein Unternehmen wirklich kennen, statt jedes Mal bei null zu beginnen.

Langzeitgedächtnis

Das Langzeitgedächtnis ist eine Liste sauberer, eigenständiger Fakten, die an einen einzelnen Agenten geknüpft sind: seine Angebote, Richtlinien, Ton-Vorlieben und die kleinen Dinge, die man einer neu eingestellten Person mitteilen müsste. Jeder Fakt wird dem Agenten bei jeder Antwort als interner Kontext eingespeist, sodass der Agent aus dem antwortet, was er weiß, ohne dass du es erneut erklären musst. Das Gedächtnis ist auf diesen einzelnen Agenten beschränkt und existiert unabhängig von jeder einzelnen Unterhaltung; das Leeren eines Chats berührt es nie.

Es gibt zwei Wege, wie Fakten hineingelangen:

  • Du fügst sie direkt hinzu. Der Memory-Tab im Agent-Editor listet alles auf, was der Agent sich merkt, und lässt dich Einträge von Hand hinzufügen, bearbeiten oder entfernen.
  • Der Agent speichert sie selbst, während du ihn trainierst. Wenn du mit dem Agenten im Training-Modus chattest, behandelt er dich als Manager und hält die dauerhaften Fakten fest, die du ihm beibringst, umformuliert zu sauberen, eigenständigen Notizen, nie deine rohe Formulierung. Einträge, die der Agent selbst geschrieben hat, sind markiert, sodass du sie von denen unterscheiden kannst, die du hinzugefügt hast.

Das Gedächtnis ist streng intern: Der Agent nutzt es zum Antworten, zitiert es aber nie, erwähnt es nicht und verrät einem Endnutzer nie, „was er sich merkt“. Außerdem speichert er keine Geheimnisse wie API-Schlüssel oder Passwörter, sofern du es ihm nicht ausdrücklich sagst. Da jeder Fakt bei jedem Turn mitgeführt wird, ist die eingespeiste Menge begrenzt. Die neuesten Fakten gewinnen, und wenn ein Agent viele ansammelt, werden ältere Einträge zusammengefasst, statt stillschweigend verworfen zu werden.

Training-Modus: als Manager chatten

Das Panel Chat with Agent (ein Seitenpanel auf breiten Bildschirmen, ein Chat-Button auf schmalen) hat oben einen Umschalter:

  • Training: du bist der Manager. Bringe dem Agenten etwas bei, korrigiere ihn, und er speichert, was er lernt, im Langzeitgedächtnis.
  • Test: ein Testlauf der echten Kundenerfahrung. Der Agent liest sein Gedächtnis, kann aber nicht hineinschreiben, genau so, wie er sich bei einem echten Besucher verhält.

Durchgespieltes Beispiel. Öffne deinen Agenten, stelle das Chat-Panel auf Training und tippe: „Wir haben an Feiertagen geschlossen, und Rückerstattungen werden nur per E-Mail abgewickelt, nie per Telefon.“ Der Agent bestätigt und speichert zwei Fakten. Öffne den Memory-Tab und du siehst beide Einträge, als vom Agenten notiert markiert. Stelle das Panel nun auf Test (dafür muss der Web-Chat-Kanal beim Agenten aktiviert sein) und frage, wie es ein Kunde tun würde, „Kann ich eine Rückerstattung per Telefon erhalten?“. Der Agent antwortet aus dem Gedächtnis, dass Rückerstattungen per E-Mail laufen, ohne dass du irgendetwas verkabelt hast. Du hast kein Einstellungsformular angefasst; du hast es ihm einfach gesagt, so wie du es einem Kollegen sagen würdest.

Unterhaltungsgedächtnis

Innerhalb einer einzelnen Unterhaltung führt der Agent zwei Kurzzeit-Stränge. Der erste ist das laufende Transkript. Das jüngste Hin und Her wird bei jedem Turn erneut abgespielt, sodass der Agent kohärent bleibt und einen Kunden nicht bittet, seinen Namen oder seine Bestellnummer zu wiederholen.

Der zweite ist ein stiller Seitenkanal mit Dingen, die der Agent in diesem Chat bereits gefunden hat. Wenn eine Antwort ein bestimmtes Dokument, einen Ordner, eine Tabelle oder einen Social-Beitrag heranzieht, behält der Agent die Identität dieses Elements (seinen Namen zusammen mit seiner echten Referenz) für den Rest der Unterhaltung. Wenn der Kunde also „öffne das da“ oder „die Datei, die du gerade erwähnt hast“ sagt, verwendet der Agent das, was er bereits hat, erneut, statt noch einmal zu suchen oder, schlimmer, den Kunden nach einer internen ID zu fragen, die er nie kennen würde. Das ist nur Identität, keine Momentaufnahme: Wenn sich das zugrunde liegende Element ändert, ruft der Agent trotzdem frische Details ab; er muss nur nicht erneut herausfinden, welches Element du gemeint hast.

Das Unterhaltungsgedächtnis ist auf diese eine Unterhaltung beschränkt. Ein neuer Chat (oder das Zurücksetzen des aktuellen) gibt dem Agenten ein unbeschriebenes Blatt. Das Langzeitgedächtnis bleibt erhalten.

Was das Gedächtnis nicht ist

  • Nicht die Wissensdatenbank. Dokumente, Seiten und Dateien, die der Agent durchsuchen soll, liegen in der Wissensdatenbank. Das Gedächtnis ist für eine Handvoll dauerhafter Fakten und Anweisungen da, nicht als Dokumentenspeicher.
  • Nicht die Korrektur von Antworten. Eine bestimmte schlechte Antwort durch die richtige zu ersetzen ist ein separater Mechanismus mit stärkerem Signal. Siehe Versionierung & Feedback.

FAQ

Wie bringe ich ihm etwas Dauerhaftes bei? Chatte im Training-Modus und sag es ihm einfach, oder füge den Fakt selbst im Memory-Tab hinzu. Beides landet im Langzeitgedächtnis.

Erinnert er sich über Unterhaltungen hinweg? Das Langzeitgedächtnis ja. Das Unterhaltungsgedächtnis gilt pro Chat und wird gelöscht, wenn die Unterhaltung zurückgesetzt wird.

Gibt er das Gedächtnis an Kunden weiter? Nein, das Gedächtnis ist interner Kontext, aus dem der Agent antwortet, nie etwas, das er einem Endnutzer zitiert oder nennt.

der Memory-Tab im Agent-Editor listet gespeicherte Fakten auf, mit markierten, vom Agenten notierten Einträgen
das Panel Chat with Agent zeigt den Umschalter Training / Test

Weiter