Zum Inhalt springen

Bereit, mit AnyBot loszulegen?

AnyBot Dokumentation
Agents

Ein Modell wählen

Wähle das richtige Modell-Bundle für deinen Agenten, Geschwindigkeit gegenüber Qualität, warum die Namen Bundles statt roher Modell-IDs sind und wie das automatische Fallback die Antworten am Laufen hält.

Jeder Agent läuft auf einem Modell-Bundle, dem Gehirn hinter seinen Antworten. Du wählst eines im Tab AI Options des Agenten, und es ist eine einzige Entscheidung in klarer Sprache: keine Modellversions-Strings, keine Provider-Konten, keine Schlüssel zu verwalten. Diese Seite erklärt, was die Bundles sind, wie sie sich unterscheiden und wie du wählst.

Bundles, keine Modellnamen

Du wählst kein bestimmtes Modell wie eine Versionsnummer. Du wählst ein Bundle. Ein Bundle ist eine benannte Stufe (zum Beispiel Balanced Model), die AnyBot hinter den Kulissen auf ein oder mehrere zugrunde liegende Modelle abbildet. Zwei Gründe, warum das wichtig ist:

  • Es bleibt aktuell. Sobald ein besseres Modell verfügbar wird, richtet AnyBot das Bundle darauf neu aus. Dein Agent erhält das Upgrade, ohne dass du irgendetwas bearbeitest.
  • Es ist auf Ausfallsicherheit ausgelegt. Bundles sind mit einem primären und einem Backup-Modell definiert; automatisches modellübergreifendes Fallback ist im Anmarsch (siehe Automatisches Fallback).

Du wählst also ein Profil („schnell“, „ausgewogen“, „Reasoning“, „Spitzenklasse“), keine eingefrorene Modell-ID. Die genaue Auswahl wird von AnyBot kuratiert und kann sich mit der Zeit ändern.

Die Bundles

Es gibt vier Bundles, die ein Spektrum vom schnellsten bis zum leistungsfähigsten abdecken:

BundleIdeal fürDer Kompromiss
Fast ModelSupport mit hohem Volumen, FAQs, schnelles Hin und HerSchnellste Antworten; leichteres Reasoning
Balanced ModelDie meisten Agenten (die sinnvolle Standardwahl)Ein Mittelweg aus Geschwindigkeit und Tiefe
Reasoning ModelKomplexe Agenten, mehrstufige Fragen, sorgfältiger Tool-EinsatzTieferes Reasoning; etwas langsamer
Smart V2Die anspruchsvollsten Agenten, die maximale Leistungsfähigkeit brauchenHöchste Qualität; am schwersten

Jedes wird direkt im Auswahlmenü in einfachen Worten beschrieben, sodass du die kurze Beschreibung lesen und wählen kannst, ohne irgendetwas über die dahinterliegenden Modelle zu wissen.

Automatisches Fallback

Wie du wählst

Ein einfacher Weg zur Entscheidung:

  • Starte mit Balanced Model. Für die große Mehrheit der Support- und Vertriebsagenten ist es die richtige Standardwahl: schnell genug, um flott zu wirken, leistungsfähig genug, um echte Fragen zu bewältigen und Tools gut einzusetzen.
  • Greife zu Fast Model, wenn Volumen und Latenz am wichtigsten sind und die Fragen relativ einfach sind. Denk an FAQ-Abwehr an vorderster Front, wo Geschwindigkeit der ganze Sinn ist.
  • Wechsle hoch zu Reasoning Model, wenn dein Agent viel Wissen hat, mehrere Tools verkettet oder nuancierte, mehrstufige Fragen bearbeitet und du bemerkst, dass er bei den schwierigeren Abkürzungen nimmt.
  • Wähle Smart V2 für die anspruchsvollsten Agenten, bei denen die Antwortqualität sowohl Geschwindigkeit als auch Kosten überwiegt.

Der ehrliche Weg zu wählen ist ausprobieren, nicht raten. Wähle ein Bundle, öffne dann den Live-Test-Chat und schick deine kniffligsten echten Fragen hindurch. Wenn Antworten sich langsam anfühlen, geh eine Stufe runter; wenn sie bei den schweren oberflächlich wirken, geh eine Stufe hoch. Das richtige Bundle ist das günstigste, das deine Fragen trotzdem gut beantwortet.

Das Modell später ändern

Das Modell ist keine einmalige Entscheidung. Wechsle jederzeit das Bundle über AI Options, und (wie jede Änderung am Agenten) wird es automatisch versioniert, sodass du das Verhalten vergleichen und mit einem Klick zurücksetzen kannst, falls ein Wechsel dir nicht zusagt. Eine gute Schleife:

  1. Ändere das Bundle in AI Options.
  2. Führe deine Testfragen im Test-Chat erneut aus.
  3. Behalte es, oder setze es aus der Versionshistorie zurück.

Die Modellwahl geht eng mit deinen Verhaltenseinstellungen einher. Kreativität (Temperatur), Nur-aus-Wissen-antworten und Eskalation liegen alle daneben. Ein leistungsfähigeres Bundle folgt strengen Leitplanken genauso treu wie ein schnelles, also stimme beide gemeinsam ab.

der AI-Options-Tab mit dem Modell-Bundle-Auswahlmenü mit den vier Bundles und ihren Beschreibungen

Weiter