Zum Inhalt springen

Bereit, mit AnyBot loszulegen?

AnyBot Dokumentation
Agents

Anhänge & Multimodalität

Über den Text hinaus, wie ein Agent Sprachnachrichten, Bilder und Dokumente versteht, die jemand mitten in der Unterhaltung sendet.

Eine Unterhaltung besteht nicht nur aus Tippen. Jemand kann eine Sprachnachricht aufnehmen, ein Foto schießen oder ein PDF in den Chat ziehen. AnyBot lässt einen Agenten das mitten in der Unterhaltung aufnehmen: Er transkribiert Sprache, beschreibt Bilder und liest Dokumente und fügt das Gefundene dann in denselben Gesprächszug ein, sodass der Agent antwortet, als hätte die Person es getippt. Diese Seite behandelt, was tatsächlich unterstützt wird, wie es funktioniert und was den Agenten auf jedem Kanal erreicht.

Sprachnachrichten → Transkript

Wenn eine Nachricht mit einer Audioaufnahme eintrifft, lädt AnyBot sie herunter und führt eine Spracherkennung durch, dann fügt er das Transkript in die Nachricht des Nutzers ein. Die Transkription ist mehrsprachig (Arabisch inklusive), sodass eine gesprochene Frage in jeder unterstützten Sprache zu Text wird, den der Agent normal liest.

Die Antwort des Agenten selbst kommt als Text zurück. Diese Antwort in gesprochenes Audio umzuwandeln (Text-zu-Sprache) ist ein separater Schritt auf Kanalseite, nicht etwas, das der Agent selbst tut.

Bilder → Beschreibung

Hänge ein Foto an (einen Screenshot, ein Produktfoto, einen Beleg), und ein Vision-Modell betrachtet es und erstellt eine schriftliche Beschreibung, die der Agent dann liest. Das ist wichtig für die Erwartungen: Der Agent arbeitet mit einer Beschreibung des Bildes, anstatt die Pixel nativ zu sehen. Das ist hervorragend für „Was ist auf diesem Bild", „Lies dieses Etikett" oder „Welcher Fehler steht auf diesem Bildschirm" und schwächer bei pixelgenauer Vermessung. Wenn ein Bild nicht abgerufen oder beschrieben werden kann, läuft der Gesprächszug ohne es weiter, statt zu scheitern.

Dokumente → extrahierter Text

Sende eine Datei und AnyBot erkennt ihren Typ, extrahiert den Text und übergibt ihn dem Agenten. Unterstützte Formate:

FamilieFormate
PDF.pdf
Word.doc, .docx
Excel.xls, .xlsx
PowerPoint.ppt, .pptx
Text & Daten.txt, .md, .csv, .html, .json

Ein nicht unterstützter Typ unterbricht die Unterhaltung nicht. Dem Agenten wird einfach mitgeteilt, dass eine Datei angehängt wurde, die er nicht lesen kann, sodass er nach einem anderen Format fragen kann, statt zu raten.

Wie der Agent einen Anhang „liest"

Der rote Faden: Jeder Anhang wird zu Text, bevor der Agent ihn sieht. Eine Sprachnachricht wird zu einem Transkript, ein Bild wird zu einer Beschreibung, ein Dokument wird zu seinem extrahierten Inhalt: jeweils in denselben Nutzer-Gesprächszug als Inline-Notiz eingefügt (an das Modell als [AUTO](…)-Block übergeben). Eine Konsequenz, die es zu verstehen lohnt: Der Agent behandelt eine gesprochene oder abgebildete Frage mit genau demselben Denken, denselben Tools und denselben Leitplanken, die er für getippten Text nutzt. Deine Einstellungen für Verhalten & Leitplanken und „nur aus dem Wissen antworten" gelten identisch, und ein leistungsfähigeres Modell-Bundle verarbeitet das Transkript oder die Beschreibung genauso wie eine getippte Eingabe.

Zwei ehrliche Grenzen ergeben sich aus diesem Design: Anhänge gelten pro Gesprächszug (nicht als Wissen gespeichert, siehe unten), und das Bildverständnis ist beschreibungsbasiert, nicht pixelgenau.

Was jeder Kanal weiterleitet

Ein Anhang erreicht den Agenten nur, wenn der Kanal ihn übermittelt hat, und das variiert je nach Plattform. Das Web-Chat-Widget akzeptiert Uploads direkt; Messaging-Kanäle leiten die Sprachnachrichten, Fotos und Dateien weiter, die ihre eigenen Nutzer senden. Ein Kanal, der einen bestimmten Anhangstyp nicht unterstützt, gibt ihn schlicht nicht weiter. Der Agent sieht dann nur den Text, der mit der Nachricht kam. Statt anzunehmen, dass ein Kanal Sprache oder Dateien unterstützt, teste den konkreten Kanal, der dich interessiert, mit einem echten Anhang und bestätige, dass der Agent darauf reagiert.

Anhänge vs. die Wissensdatenbank

Das sind zwei verschiedene Dinge, und es lohnt sich, sie auseinanderzuhalten. Ein Anhang ist flüchtiger Kontext für eine einzige Unterhaltung: die Datei, die ein Kunde gerade jetzt sendet, nur für diesen Gesprächszug verwendet. Die Wissensdatenbank ist dauerhaftes Training, das du einmal pflegst: Dokumente und Seiten, die du hinzufügst, damit jede künftige Unterhaltung darauf zurückgreifen kann. Nutze Anhänge für „so ist meine Situation" und die Wissensdatenbank für „das weiß der Agent immer."

Es gibt eine schöne Symmetrie: Ein Bild, das du zur Wissensdatenbank hinzufügst, wird ebenfalls von einer Vision-KI gelesen und als Text indexiert: derselbe beschreibungsbasierte Ansatz, dauerhaft gemacht statt pro Gesprächszug.

Nächste Schritte