Tema

I concettiottimizzazioneNel grafo

Riuso del contesto

Il pagamento a tariffa ridotta della parte di contesto identica alla chiamata precedente

Si lega a

dipende dai tre prezzi del token; si ottiene tenendo la parte stabile all'inizio e immutata, la variabile in fondo

Da qui ci si arriva

  1. Crescita del contesto

    A ogni iterazione l'harness rispedisce l'intera conversazione, quindi ogni passaggio costa più del precedente

  2. Tre prezzi del token

    Ingresso, ingresso già elaborato e uscita hanno tariffe diverse: la seconda è di molto la più bassa, la terza la più alta

Dove se ne parla

  1. Quanto costa far girare un agente, e perché il conto sorprende