Si lega a
si oppone al costo di possesso; è tutto variabile, e invisibile finché non arriva la fattura
Da qui ci si arriva
- Costo per token
Quanto si paga per ogni token di ingresso, di ragionamento e di uscita: dipende dalla lingua attraverso il tokenizzatore, dalla finestra di contesto, dai parametri attivi e dai token di ragionamento
- Token
L'unità discreta in cui il tokenizzatore codifica il testo: può essere una parola intera, una sottoparola, un carattere, un byte, punteggiatura o un simbolo speciale; è anche l'unità su cui si misura la spesa a consumo
- Costo di possesso
Le macchine, l'energia e le competenze per far girare il modello in proprio
- Scelta del modello per passo
Un modello piccolo per i passi semplici, quello grande riservato ai passi che lo meritano