Scegliere un modello
Scegli il bundle di modelli giusto per il tuo agente, velocità contro qualità, perché i nomi sono bundle anziché ID grezzi dei modelli, e come il fallback automatico mantiene le risposte in movimento.
Ogni agente funziona con un bundle di modelli, il cervello dietro le sue risposte. Ne scegli uno nella scheda AI Options dell'agente, ed è una scelta unica e in linguaggio semplice: nessuna stringa di versione del modello, nessun account di provider, nessuna chiave da gestire. Questa pagina spiega cosa sono i bundle, come si differenziano e come sceglierne uno.
Bundle, non nomi di modelli
Non scegli un modello specifico come un numero di versione, scegli un bundle. Un bundle è un livello con un nome (per esempio, Balanced Model) che AnyBot associa a uno o più modelli sottostanti dietro le quinte. Due motivi per cui questo è importante:
- Resta sempre aggiornato. Quando diventa disponibile un modello migliore, AnyBot ri-punta il bundle su di esso. Il tuo agente riceve l'aggiornamento senza che tu debba modificare nulla.
- È progettato per restare resiliente. I bundle sono definiti con un modello primario e uno di backup; il fallback automatico tra modelli sta arrivando (vedi Fallback automatico).
Quindi stai scegliendo un profilo, "veloce", "bilanciato", "ragionamento", "di fascia alta", non un ID di modello fisso. La selezione esatta è curata da AnyBot e può cambiare nel tempo.
I bundle
Ci sono quattro bundle, che coprono uno spettro dal più veloce al più capace:
| Bundle | Ideale per | Il compromesso |
|---|---|---|
| Fast Model | Assistenza ad alto volume, FAQ, scambi rapidi | Risposte più veloci; ragionamento più leggero |
| Balanced Model | La maggior parte degli agenti, l'impostazione predefinita sensata | Una via di mezzo tra velocità e profondità |
| Reasoning Model | Agenti complessi, domande a più passaggi, uso attento degli strumenti | Ragionamento più profondo; leggermente più lento |
| Smart V2 | Gli agenti più esigenti che richiedono la massima capacità | Massima qualità; il più pesante |
Ognuno è descritto in termini semplici direttamente nel selettore, così puoi leggere la breve descrizione e scegliere senza sapere nulla dei modelli sottostanti.
Fallback automatico
Come scegliere
Un modo semplice per decidere:
- Parti da Balanced Model. Per la grande maggioranza degli agenti di assistenza e vendita è l'impostazione predefinita giusta, abbastanza veloce da sembrare reattivo, abbastanza capace da gestire domande reali e usare bene gli strumenti.
- Scegli Fast Model quando volume e latenza contano di più e le domande sono relativamente semplici, pensa alla deflessione di FAQ di primo livello dove la velocità è tutto.
- Passa a Reasoning Model quando il tuo agente ha molta conoscenza, concatena diversi strumenti o affronta domande sfumate e a più passaggi e noti che taglia gli angoli su quelle più difficili.
- Scegli Smart V2 per gli agenti più esigenti, dove la qualità della risposta conta più sia della velocità che del costo.
Il modo onesto per scegliere è provarlo, non indovinarlo. Scegli un bundle, poi apri la chat di test dal vivo e prova con le tue domande reali più difficili. Se le risposte sembrano lente, scendi di un livello; se sembrano superficiali su quelle difficili, sali. Il bundle giusto è il più economico che risponde comunque bene alle tue domande.
Cambiare il modello in seguito
Il modello non è una decisione definitiva. Cambia bundle in qualsiasi momento da AI Options e, come ogni modifica dell'agente, è versionato automaticamente, così puoi confrontare il comportamento e tornare indietro con un clic se un cambio non ti convince. Un buon ciclo:
- Cambia il bundle in AI Options.
- Riesegui le tue domande di test nella chat di test.
- Mantienilo, oppure torna indietro dalla cronologia delle versioni.
La scelta del modello va di pari passo con le tue impostazioni di comportamento, creatività (temperatura), risposta solo dalla conoscenza ed escalation stanno tutte accanto a essa. Un bundle più capace segue protezioni rigorose con la stessa fedeltà di uno veloce, quindi regolali insieme.
Avanti
- Comportamento e protezioni, le altre impostazioni di AI Options: creatività, argomenti bloccati ed escalation
- Testare il tuo agente, la chat di test trasmessa in diretta, il posto giusto per confrontare i bundle
- Versionamento e feedback, ogni cambio di modello è versionato con rollback in un clic