Ultimo aggiornamento: 2026-06-22

Che cos'è una finestra di contesto

La finestra di contesto è il numero massimo di token che un modello linguistico può elaborare in una singola chiamata, contando sia l'input che legge sia l'output che genera. Una richiesta rientra quando l'input più i token riservati alla risposta resta entro questo limite. Poiché la finestra è fissa per un dato modello, pianificare una chiamata significa dimensionare le sue componenti rispetto a quel tetto.

Il budget

L'input di una singola chiamata è la somma del prompt di sistema, della cronologia della conversazione precedente reinviata e del messaggio corrente dell'utente. Riservare spazio alla risposta dà il totale che la finestra deve contenere:

dove $W$ è la finestra di contesto e $n_{out}$ l'output riservato. L'utilizzo è la quota della finestra che la richiesta consuma:

Un $n_{rem}$ negativo significa che la richiesta eccede la finestra e non può essere eseguita così come è composta.

Esempio svolto

Si consideri una richiesta con un prompt di sistema di 800 token, 6000 token di cronologia e un messaggio dell'utente di 1200 token, che riserva 2000 token alla risposta, rispetto a una finestra di 128.000 token:

La richiesta necessita di 10.000 token e lascia 118.000 liberi, usando circa il 7,8% della finestra. Vi è ampio margine: la cronologia potrebbe crescere molte volte prima che la finestra diventi il vincolo determinante.

Comportamento in caso di superamento

Quando il totale supera la finestra, i fornitori non troncano silenziosamente in un modo controllato dal chiamante; la chiamata viene rifiutata oppure il contesto più vecchio viene scartato, entrambe cose che degradano il risultato. L'output riservato merita particolare attenzione: se l'input riempie quasi la finestra, il modello ha poco spazio per rispondere e la risposta può essere troncata a metà generazione. Riservare l'output in modo esplicito impedisce che un input che rientra produca una risposta troncata.

Applicazione

La finestra è un limite rigido, distinto dal costo, che si scala con i token usati. La cronologia è di norma la componente più ampia e più comprimibile, per cui far rientrare una conversazione lunga significa di norma riassumerla o ridurla, accorciare il prompt di sistema, abbassare l'output riservato oppure passare a un modello con una finestra più ampia. Per dimensionare l'input a partire da un obiettivo in numero di parole, convertire con Calcolatore da token a parole; per vedere come la cronologia reinviata spinga verso l'alto sia la finestra sia la fattura nell'arco di molti turni, si veda Calcolatore della crescita del costo del contesto.