Ultimo aggiornamento: 2026-06-22

Il tempo di download di un modello

Scaricare un modello linguistico di grandi dimensioni su una macchina può significare spostare decine o centinaia di gigabyte, e l'attesa dipende da due fattori: quanto è grande il file dei pesi e quanto è veloce la connessione. La dimensione del file deriva dal numero di parametri e dal formato di quantizzazione, mentre il tempo di trasferimento è quella dimensione divisa per la larghezza di banda della rete. Questo calcolatore concatena i due passaggi, partendo da un numero di parametri e da una precisione anziché chiedere direttamente la dimensione del file.

Dai parametri ai byte al tempo

I pesi di un modello occupano all'incirca il numero di parametri moltiplicato per la larghezza in bit di ciascun peso, espresso in byte. Con $N$ parametri in miliardi e $b$ bit ciascuno, la dimensione in gigabyte decimali è

Per trasformarla in un tempo di trasferimento, la dimensione va convertita in bit — perché la larghezza di banda è espressa in megabit al secondo — e poi divisa per la velocità del collegamento. Un gigabyte equivale a $8 \times 10^9$ bit, e un megabit al secondo è $10^6$ bit al secondo, quindi su una larghezza di banda $w$ in Mbps il trasferimento richiede $S \cdot 8 \times 10^9 / (w \times 10^6) = S \cdot 8000 / w$ secondi. Espresso in minuti e ore,

Esempio svolto

Consideriamo un modello da 70 miliardi di parametri a 16 bit per peso, scaricato su una connessione da 1.000 Mbps:

Si tratta di circa 0,31 ore di trasferimento per i 140 GB di pesi, supponendo che il collegamento resti saturo. Lo stesso modello quantizzato a 4 bit peserebbe 35 GB e si scaricherebbe in circa un quarto del tempo.

Megabit contro megabyte

L'errore più comune è dimenticare che le velocità di connessione sono in megabit mentre i file sono in megabyte. Un byte è composto da otto bit, quindi un collegamento "da 1 Gbps" trasferisce solo circa 125 megabyte al secondo. Il calcolo qui sopra gestisce questa conversione, ed è per questo che il tempo risulta otto volte più lungo di quanto suggerirebbe dividere i gigabyte per i gigabit. I download reali sono ancora più lenti, perché i limiti del server, la banda condivisa e l'overhead di protocollo mantengono la velocità effettiva al di sotto del massimo dichiarato. La dimensione di base del file, e come cambia con la precisione, è trattata nel Calcolatore della dimensione del modello dalla quantizzazione, mentre la memoria necessaria per eseguire davvero i pesi scaricati è nel Calcolatore della VRAM di inferenza per LLM.