Quanto costa far girare un agente, e perché il conto sorprende

La domanda «quanto costa un agente» riceve quasi sempre una risposta sbagliata, perché viene raccontata la voce più vistosa invece di quella che pesa. Si parla di schede grafiche, di consumi dei centri dati, di investimenti in hardware. Sono numeri veri e riguardano poche organizzazioni: la grande maggioranza di chi costruisce un agente non compra niente, paga a consumo il modello di qualcun altro.

E lì il costo si forma in un modo che sorprende quasi tutti, perché non dipende da quante persone usano il sistema ma da come è fatto l’harness che gli sta intorno. Chi non l’ha ancora incontrato lo trova spiegato in Architettura di un agente AI; qui basta sapere che è lo strato che decide quante volte chiamare il modello e con quanto contesto.

Due modelli di costo che non si somigliano

Pagare a consumo o ospitare il modello. Quasi tutti fanno il primo, quasi tutti i testi descrivono il secondo.

Il costo a consumo. Si chiama il modello di un fornitore e si paga in proporzione al testo scambiato - misurato in token, cioè frammenti di parola. Nessun investimento iniziale, costo che parte da zero e cresce con l’uso. È la strada di quasi tutti, e ha un difetto specifico: è invisibile finché non arriva la fattura, perché non c’è nessun momento in cui qualcuno deve approvare una spesa.

Il costo di possesso. Si comprano o si affittano macchine con acceleratori di calcolo e ci si fa girare il modello in casa. Ha senso con volumi molto alti, con dati che non possono uscire, o quando va controllata fino in fondo la latenza, cioè il tempo che passa fra la domanda e la risposta. Comporta un investimento iniziale, competenze per mantenerlo, e un consumo elettrico che è una voce di bilancio: un solo server con otto acceleratori assorbe qualche kilowatt, a cui si sommano raffreddamento e manutenzione.

Gli ordini di grandezza di quella seconda strada cambiano ogni pochi mesi - le generazioni di acceleratori si susseguono e i prezzi con loro - quindi qualunque cifra letta in un articolo va verificata al momento della decisione, non citata. Non cambia invece la forma del costo: il primo modello è tutto variabile, il secondo è quasi tutto fisso. È la differenza fra una bolletta e un mutuo, e si sceglie in base a quanto è prevedibile il volume, non a quale sembra più economico.

Il punto di pareggio, e perché quasi tutti lo calcolano male

La domanda «da che volume conviene ospitare?» ha una risposta studiata: un lavoro del 2025 confronta il costo totale di modelli aperti installati in proprio con gli abbonamenti dei fornitori commerciali, e conclude che il pareggio esiste ma dipende dal livello d’uso - mesi per i volumi piccoli, oltre i due anni per quelli grandi con esigenze di prestazione elevate.

Il risultato che però cambia davvero il modo di fare il conto è un altro, ed è recente. Quasi tutti i calcolatori di costo trattano l’utilizzo degli acceleratori di calcolo come un dato fisso, spesso implicitamente al cento per cento: si prende la capacità teorica della macchina, la si divide per il costo, e ne esce un prezzo per milione di token che sembra imbattibile. In esercizio quel numero non si verifica quasi mai, perché la macchina è satura solo quando arrivano abbastanza richieste insieme.

Misurato su quarantadue prove sullo stesso identico hardware, il costo effettivo va da 0,21 a 15,25 dollari per milione di token prodotti a seconda del carico, senza cambiare né modello né macchina. La stessa misura dà un nome al divario e lo quantifica: la penalità del sottoutilizzo vale da 2,5 a 24 volte ai carichi bassi e medi di un’azienda - da una a dieci richieste al secondo - e arriva a 36 volte quando la macchina è quasi ferma. L’errore è sistematico e va sempre nella stessa direzione: sottostima il costo, tanto più quanto la macchina è scarica. Se lavora a metà, il costo vero è il doppio di quello previsto; se lavora a un quarto, il quadruplo. Colpisce quindi più duramente proprio chi ha volumi bassi, cioè chi sta valutando se cominciare.

Se ne ricava una regola che vale più di qualunque confronto di listini: un preventivo di installazione in proprio senza una stima del traffico non è un preventivo. Non serve sapere quanti token al mese: serve sapere quante richieste arrivano insieme, perché è la loro sovrapposizione a decidere se la macchina lavora o aspetta. E una macchina che aspetta costa uguale.

Il terzo listino sono gli abbonamenti, e non è per voi

Gli abbonamenti costano una frazione dell’accesso a consumo. Le ragioni per cui costano poco sono le stesse per cui non reggono un agente aziendale.

Chiunque usi un assistente di programmazione in abbonamento e poi provi a rifare lo stesso lavoro pagando a consumo nota una sproporzione che sembra un errore: decine di euro al mese da una parte, molte centinaia dall’altra per lo stesso volume di lavoro. La domanda viene da sé - perché non costruiamo il nostro agente su quel listino?

La risposta breve è che non si può, e vale la pena capire perché no, perché le ragioni sono le stesse che spiegano il prezzo.

Vendono flessibilità, non capacità. La prova pubblicata più netta viene da un listino che tutti possono leggere: chi accetta di aspettare fino a 24 ore per la risposta paga la metà, su ingresso e uscita, presso i fornitori principali. Non cambia il modello e non cambia il lavoro svolto: cambia solo che il fornitore decide quando farlo. Un abbonamento interattivo non aspetta 24 ore, ma concede in piccolo la stessa cosa - può accodare, rallentare, raggruppare la vostra richiesta con quelle di altri. E raggruppare è la leva più potente che esista dal lato di chi serve, perché i costi fissi di un passaggio si dividono fra tutte le richieste che viaggiano insieme.

Il contesto è quasi tutto già elaborato. Un assistente di programmazione rimanda a ogni iterazione un prefisso enorme e sempre identico: istruzioni, struttura del progetto, file aperti. È il caso ideale per la tariffa ridotta vista sopra, e il costo reale per il fornitore è molto più basso di quanto suggerisca il conteggio grezzo dei token.

I limiti d’uso non sono un difetto, sono il prodotto. L’abbonamento ha tetti che scattano proprio quando le macchine sono cariche. State comprando la capacità che avanza, a un prezzo che riflette esattamente questo.

E la media fra abbonati fa il resto. La maggior parte usa molto meno del tetto: chi usa tanto è pagato da chi usa poco. È l’economia di qualunque tariffa piatta, dalla palestra in poi.

Perché non ci si costruisce sopra un agente aziendale

La tentazione è forte e va disinnescata, perché il problema non è tecnico: funziona benissimo, e proprio per questo è pericolosa.

Le ragioni sono quattro:

• la licenza non lo prevede: gli abbonamenti individuali sono concessi per l’uso interattivo di una persona, non per l’accesso programmatico né per far girare un servizio - a quello serve l’interfaccia di programmazione, che si paga a consumo. I termini specifici cambiano da fornitore a fornitore e nel tempo, e vanno letti, ma la struttura è questa ovunque, e non per caso: è la separazione su cui regge la differenza di prezzo;
• non c’è garanzia di servizio: nessun impegno sulla disponibilità né sui tempi di risposta. Un processo aziendale che si ferma perché è scattato un tetto orario non è un processo aziendale;
• mancano gli accordi sul trattamento dei dati: far passare dati di clienti attraverso un abbonamento personale è un problema di conformità prima ancora che di architettura;
• è legato a una persona: se ne va la persona, se ne va l’agente - e con lui l’accesso, la cronologia e la configurazione.

Da cui una distinzione netta che conviene tenere a mente leggendo il resto dell’articolo. L’abbonamento è la scelta giusta per una persona che lavora: chi programma, chi scrive, chi analizza. Il costo di un agente che fa girare un processo si calcola sul listino a consumo, ed è quello di cui parla tutto il resto di questo pezzo.

Una variante da nominare perché è diffusa: far girare un agente aziendale su abbonamenti intestati ai dipendenti. Costa poco finché nessuno guarda, e mette l’organizzazione in una posizione insostenibile su tre fronti insieme - contrattuale, di continuità e di conformità. È un risparmio che si trasforma in un problema nel momento peggiore, cioè quando il sistema è diventato indispensabile.

Perché un agente costa più di quanto si pensi

Un compito non è una chiamata. Sono molte, e ognuna rispedisce l’intera conversazione.

Qui sta la sorpresa, e non è un dettaglio tecnico: è il meccanismo che fa saltare i preventivi.

Un modello interrogato una volta costa una volta. Un agente non funziona così. Per portare a termine un compito compie un ciclo - chiede al modello, esegue uno strumento, riporta l’esito, richiede - e ogni iterazione è una chiamata a pagamento. Un compito che richiede quindici passaggi costa quindici chiamate, non una.

Al primo effetto se ne somma un secondo, la crescita del contesto. I modelli non hanno memoria fra una chiamata e l’altra: per farsi capire, a ogni iterazione l’harness rispedisce tutto quello che si sono detti fino a lì. Alla prima iterazione manda poche righe, alla quindicesima manda quattordici scambi. Il costo di un compito quindi non cresce in proporzione ai passaggi: cresce più in fretta, perché ogni passaggio è più caro del precedente.

Ne discende una regola pratica che vale più di qualunque listino: il costo di un agente lo determina il numero di iterazioni e la lunghezza del contesto, cioè due decisioni di progetto, non il prezzo del modello. Due sistemi che usano lo stesso identico modello possono costare dieci volte l’uno dell’altro.

Da qui anche l’avvertimento sulla ripetizione di cui parla l’articolo sulle architetture: un ciclo senza criterio di uscita non consuma solo tempo, consuma denaro a ogni iterazione, e il consumo non si vede finché non si guarda la fattura.

Le leve che riducono davvero

Meno iterazioni, meno contesto, un modello più piccolo dove basta. In quest’ordine.

Le ottimizzazioni si presentano di solito come questione tecnica - comprimere il modello, ridurne la precisione numerica, usare versioni ridotte. Sono vere e riguardano chi ospita il modello. Per tutti gli altri le leve che spostano il conto sono tre, e vanno tirate in quest’ordine.

Meno iterazioni. È la leva più potente e la più trascurata. Un compito che si chiude in cinque passaggi invece che in quindici non costa un terzo: costa molto meno, perché tagliando le iterazioni si accorcia anche il contesto che ognuna rispedisce. Il numero di iterazioni dipende da tre cose: da come è scritta la richiesta, da come è fatto l’harness - strumenti giusti, criterio di arresto chiaro, memoria dei tentativi già falliti - e da quanto è capace il modello. Su quest’ultimo punto torno fra poco, perché è quello che rovescia l’intuizione più diffusa sul risparmio.

Meno contesto, e ben disposto. Rispedire tutta la conversazione è la strada facile; riassumere quello che serve e scartare il resto è lavoro dell’harness e si paga una volta sola.

Dentro questa leva sta il punto che trasforma un’ottimizzazione in una scelta di progetto: i token non hanno un prezzo solo, ma tre - i tre prezzi del token, diversi fra loro.

Tipo di token	Che cos’è	Costo relativo
Ingresso	Testo nuovo che il modello deve elaborare per la prima volta	intermedio
Ingresso già elaborato	La parte di contesto identica alla chiamata precedente, che il fornitore ha conservato	il più basso, di molto
Uscita	Testo che il modello produce	il più alto

Da qui una regola che riguarda come si costruisce il contesto, non quanto lo si accorcia, e si chiama riuso del contesto: la parte che non cambia - istruzioni, definizioni degli strumenti, documenti di riferimento - va messa all’inizio e lasciata identica, così a ogni iterazione rientra nella quota già elaborata; la parte che cambia va in fondo. Un harness che rimescola l’ordine, o che modifica anche solo una riga all’inizio, invalida tutto ciò che segue e ripaga a prezzo pieno un contesto che avrebbe potuto costare una frazione.

Per un agente, dove le istruzioni iniziali si ripetono a ogni iterazione di un ciclo di quindici, è la differenza fra pagarle una volta o quindici. Ed è la ragione per cui costruire il contesto è uno dei sei mestieri dell’harness e non un dettaglio di ottimizzazione.

La scelta del modello per passo. Non tutti i passi di un compito richiedono la stessa capacità, e un modello più piccolo basta dove basta. Classificare una richiesta, estrarre un campo da un documento, decidere se un testo è pertinente sono lavori che un modello piccolo fa altrettanto bene e a una frazione del costo. Riservare il modello grande ai passi che lo meritano è una scelta di architettura, ed è il motivo per cui l’instradamento descritto nell’articolo sulle architetture non serve solo all’ordine.

In quella frase, però, tutto il peso sta su dove basta - e stabilire dove basta è più difficile di quanto sembri. È il punto della sezione che segue.

Solo dopo queste tre viene tutto il resto: modelli distillati, riduzione della precisione numerica, calcolo spostato sui dispositivi. Sono strumenti seri per chi ospita, e non risolvono un agente progettato male.

Il costo per compito risolto, non per milione di token

Le tre leve danno per scontato che il modello sia deciso. Non lo è, e qui si fa l’errore più caro: scegliere il modello guardando il prezzo di listino.

Un modello meno capace costa meno a chiamata e può costare di più a compito finito, perché ci arriva in più iterazioni - o non ci arriva affatto, e allora quanto si è speso è perso per intero. Il listino misura una chiamata; l’azienda paga un risultato. Sono due grandezze diverse e vengono confuse quasi sempre.

Qualcuno lo misura invece di affermarlo. Artificial Analysis valuta i modelli in modo indipendente e pubblica, accanto al punteggio, quanto è costato ottenerlo: non il prezzo di listino, ma il costo vero per far girare l’intera batteria di prove. Sono due numeri per lo stesso modello, e messi su un piano cartesiano dicono una cosa che il listino da solo tiene nascosta.

Il grafico si legge due volte, e la seconda lettura è la più importante.

La prima, la più evidente: la scala del divario. Da un capo DeepSeek V4 Flash, 51,8 punti per 2,85 dollari; dall’altro Claude Opus 5, 63,1 punti per 424 dollari. Sono centoquarantanove volte il costo per il 22 per cento di punteggio in più. Il che non vuol dire che il primo sia la scelta giusta - se quel 22 per cento è la differenza fra un risultato usabile e uno da rifare, 424 dollari sono ben spesi. Vuol dire che la domanda «quanto conta, per il mio compito, quel 22 per cento?» ha una risposta che vale centoquarantanove volte il prezzo, e che nessuno può darvi al posto vostro.

La seconda, meno evidente e più utile: il listino inganna sull’ordine. Guardate Nemotron 3 Ultra e GLM-5.2. Il primo costa meno della metà per token del secondo. Eseguire la stessa batteria di prove costa di più con Nemotron - 34,5 dollari contro 32,9 - e il punteggio è quattordici punti più basso. Il modello dal listino economico è, alla resa dei conti, quello caro. Non è un caso isolato: nella nuvola dei diciotto modelli il rovesciamento si ripete, e il prezzo per token da solo non basta a prevedere chi costerà meno alla fine.

La causa è sempre la stessa: quei modelli consumano più token per fare lo stesso lavoro. Ragionano più a lungo, sbagliano e riprovano, girano intorno alla risposta. Il listino misura il prezzo di un token; il costo lo decide il numero di token.

La linea che unisce i punti migliori si chiama frontiera costo-accuratezza: ne fanno parte i modelli per cui nessuno più economico fa meglio. E per nove modelli su diciotto la conclusione è netta: restano fuori perché sono battuti su entrambe le misure insieme, cioè esiste un concorrente che costa meno e fa meglio. Non c’è nessun compromesso da valutare, sono soldi buttati.

Vale la pena aggiungere che sugli agenti - dove il compito richiede molte iterazioni e non una risposta sola - la selezione è ancora più severa. Un gruppo guidato da Princeton, con l’Holistic Agent Leaderboard, ha eseguito 21.730 prove su nove modelli e nove batterie agentiche, riportando accuratezza e costo insieme, e ne ha tratto tre conclusioni che si leggono bene accanto al grafico: la frontiera è ripida (in un solo caso su nove il modello più costoso vi compare); è rada (in media meno di un terzo dei modelli vi appartiene); e la maggiore accuratezza non porta con sé efficienza (in sei casi su nove il consumo di token cresce insieme al punteggio).

Da cui la regola operativa, meno comoda di «prendiamo il più economico» e molto meno cara: la scelta del modello si fa per compito, e si misura. Un banco di prova con venti casi veri della vostra azienda, gli stessi venti dati a tre modelli, e si confronta quanti ne risolve ciascuno e quanto è costato arrivarci. Costa mezza giornata e dice una cosa che nessun listino può dire.

L’energia, e chi resta fuori

Il consumo non è solo una voce di bilancio: è il punto in cui la questione smette di essere tecnica.

Far girare questi modelli consuma elettricità, e l’elettricità dei centri dati non viene sempre da fonti rinnovabili: l’impronta ambientale è reale e non si risolve dichiarandola. Le imprese più grandi la affrontano investendo in hardware più efficiente o in forniture di energia pulita.

Qui la questione smette di essere tecnica. Quelle soluzioni hanno un costo d’ingresso che solo i grandi possono permettersi, e l’effetto è che le piccole e medie imprese e chi comincia rischiano di restare fuori non perché la tecnologia non serva loro, ma perché l’unica versione sostenibile è quella che costa di più.

Vale però la stessa osservazione delle sezioni precedenti, con un risvolto incoraggiante. Se il costo di un agente lo determinano soprattutto il numero di iterazioni, la lunghezza del contesto e la scelta del modello per quel compito, allora la leva più efficace per ridurre il consumo è progettare meglio, non comprare di più - ed è una leva alla portata di chiunque, non solo di chi ha un centro dati.

«Progettare meglio», però, comprende scegliere il modello giusto, e il modello giusto non è sempre il più piccolo: a volte è quello che risolve il compito al primo tentativo invece che al quarto, e consuma meno proprio perché è più capace. Chi ha poche risorse non deve dedurne di dover comprare il modello più caro - il grafico di poco fa mostra che quasi mai è la scelta migliore - ma nemmeno che il più economico sia gratis. La sola via che funziona è misurare sui propri compiti, e costa mezza giornata invece di un centro dati.

Resta una domanda che questo articolo ha volutamente tenuto fuori, perché non riguarda come si progetta ma se il terreno reggerà: quel prezzo per token da dove viene, e durerà? Se ne parla in Chi paga il conto.

I concetti che questo articolo introduce

Undici voci nuove, tutte sul costo. I concetti dei due articoli precedenti non sono ripetuti.

Fonti

• Chitral Patil, Beyond Per-Token Pricing: A Concurrency-Aware Methodology for LLM Infrastructure Cost Estimation (arXiv:2606.11690, giugno 2026) - la misura da cui vengono i 0,21–15,25 dollari per milione di token prodotti sullo stesso hardware, e la critica all’ipotesi di pieno utilizzo.
• Guanzhong Pan, Vishal Chodnekar, Abinas Roy, Haibo Wang, A Cost-Benefit Analysis of On-Premise Large Language Model Deployment: Breaking Even with Commercial LLM Services (arXiv:2509.18101, agosto 2025) - il confronto fra costo totale in proprio e abbonamenti commerciali, e il punto di pareggio per livello d’uso.
• Artificial Analysis, Intelligence Index v4.1 - i dati del grafico: punteggio e costo reale di esecuzione delle prove per diciotto modelli, rilevati in modo indipendente. Sono stati letti ad agosto 2026 e la classifica cambia di continuo: il collegamento porterà ai valori correnti, che non saranno più quelli presentati qui.
• Sayash Kapoor, Benedikt Stroebl e altri (Princeton e altre sedici sedi), Holistic Agent Leaderboard: The Missing Infrastructure for AI Agent Evaluation (arXiv:2510.11977) - le 21.730 prove agentiche e le tre conclusioni sulla frontiera. La classifica resta consultabile su hal.cs.princeton.edu, ma non viene più aggiornata: il gruppo ha sospeso gli aggiornamenti per lavorare sull’affidabilità degli agenti, e i modelli più recenti che contiene sono di inizio 2026. È la ragione per cui il grafico qui sopra non usa i suoi dati.

Le cifre dei tre tipi di token non ci sono di proposito, perché l’articolo rimanga aggiornato: quei prezzi cambiano di continuo, il loro rapporto no. L’ingresso già elaborato costa molto meno dell’ingresso nuovo, e l’uscita più di tutti e due: è da lì che discendono le decisioni di progetto descritte qui.