Quanto costa tenere un agente in esercizio
Modelli, infrastruttura, tempo di controllo, eccezioni e Presidio: come si compone il costo di un agente in esercizio e che cosa lo fa crescere.
JoinX · Ultimo aggiornamento
Il progetto è stato approvato, l'agente che prepara le proposte di liquidazione dei sinistri lavora da qualche settimana e in comitato il direttore amministrativo chiede quanto costa farlo lavorare ogni mese, oltre a quanto è costato costruirlo. È la domanda giusta, perché il costo di costruzione si paga una volta mentre quello di esercizio torna a ogni pratica. In questo articolo non diamo prezzi, che dipendono dal processo e dai volumi, e spieghiamo invece di quali voci è fatto quel costo, che cosa lo fa crescere e chi può intervenire su ciascuna.
Le voci che compongono il costo
La voce più visibile è l'uso dei modelli, che di solito si paga a ogni esecuzione in base alla quantità di testo che il modello riceve e produce, misurata in token. Accanto ci sono l'infrastruttura e le licenze di terzi, che nella proposta indichiamo a parte rispetto al nostro corrispettivo. Poi c'è il tempo delle persone che controllano il lavoro dell'agente, e il tempo speso sulle eccezioni che l'agente passa a una persona. Se l'impresa sceglie il Presidio, infine, c'è il suo corrispettivo periodico.
Senza importi, che dipendono dal processo e dai volumi.
| Voce | Che cosa la fa crescere | Chi può intervenire |
|---|---|---|
| Uso dei modelli | Che cosa la fa crescereIl contesto ricaricato a ogni chiamata, un modello più grande del necessario | Chi può intervenireChi progetta l'agente e chi fissa i limiti di spesa |
| Infrastruttura e licenze di terzi | Che cosa la fa crescereIl volume delle esecuzioni e l'ambiente in cui l'agente lavora | Chi può intervenireI sistemi informativi, con i fornitori |
| Tempo di controllo delle persone | Che cosa la fa crescereUn grado di autonomia basso, il controllo di tutte le pratiche invece che a campione | Chi può intervenireChi risponde del processo |
| Eccezioni passate a una persona | Che cosa la fa crescereRegole incomplete, dati mancanti, casi che le regole non prevedono | Chi può intervenireChi risponde delle regole e chi risponde dei dati |
| Presidio | Che cosa la fa crescereIl numero di agenti seguiti e il livello di servizio richiesto | Chi può intervenireLa direzione |
Perché il contesto pesa sulla spesa in token
Un modello non ricorda nulla tra una chiamata e l'altra, quindi a ogni chiamata riceve tutto ciò che gli serve per lavorare. Quando regole, accessi e memoria stanno dentro l'agente, l'agente ricarica tutto il contesto a ogni esecuzione e i token crescono con il numero di casi che deve coprire. Nell'X Lab studiamo come tenere contesto, regole e memoria fuori dal singolo agente, in modo che ciascun agente riceva soltanto la parte che gli spetta e che il modello entri in gioco solo quando serve.
È lo stesso motivo per cui, nella pagina del Company Brain, scriviamo che con regole e processi organizzati gli agenti producono risultati migliori con una frazione della spesa in token. Conta anche la scelta del modello. Lavoriamo con quelli più adatti al compito per accuratezza, costo e riservatezza. Con la Security tutte le richieste ai modelli passano da un punto unico, dove si stabilisce quali modelli sono ammessi, con quali dati e con quali limiti di spesa.
Il tempo delle persone che controllano
Nel Deployment misuriamo durata, errori e rilavorazioni del processo prima di costruire e dopo il rilascio rileviamo gli stessi aspetti insieme al tempo speso a controllare gli agenti. Questa voce dipende soprattutto dal grado di autonomia. Quando l'agente prepara un lavoro completo, l'analista lo controlla e lo approva pratica per pratica, mentre quando esegue entro limiti stabiliti la persona approva i passaggi critici e controlla a campione. Il passaggio di grado lo decide chi risponde del processo, come spieghiamo a proposito dei gradi di autonomia. Al costo si aggiunge sempre il tempo delle approvazioni che nessun grado toglie alle persone, cioè le azioni che non si possono annullare e quelle rivolte al cliente finale.
Le eccezioni che passano a una persona
Un agente si ferma quando una soglia viene superata, quando manca un dato o quando incontra un caso che le regole non prevedono, e in quel momento il costo dell'esecuzione si somma al tempo della persona che riprende la pratica. Quando una persona corregge una proposta, registriamo la correzione e la analizziamo per capire se intervenire su una fonte, su una regola o sull'agente. Le procedure riusabili, cioè attività scritte una volta e usate da più agenti come la verifica di un documento, evitano poi di pagare più volte lo stesso lavoro.
Esiti e costi seguiti dal Presidio
Con il Presidio osserviamo di continuo esiti, eccezioni e costo di ciascuna esecuzione, in un cruscotto che l'impresa legge insieme a noi. Quando esce un nuovo modello lo proviamo sui casi dell'impresa e lo adottiamo solo se migliora la qualità o i costi senza indebolire i controlli. Il Presidio è facoltativo e un'impresa che porta la gestione al proprio interno sposta questa voce sul tempo delle sue persone.
Che cosa si misura e che cosa decide l'impresa
Il costo per esecuzione lo misuriamo e lo mostriamo, mentre il risultato economico dipende da scelte che spettano all'impresa, a cominciare da come impiegare il tempo che l'agente libera, e lì la nostra misura si ferma. Per questo il nostro prezzo resta legato al lavoro svolto, mentre la misura prima e dopo il rilascio dà alla direzione i numeri per decidere. Quando poi arriva il secondo agente, le regole, le definizioni e gli accessi lasciati dal primo li trova già pronti, come raccontiamo nella pagina sulla Compounding Intelligence.