Última actualización: 2026-06-22

Tamaño de modelo según la cuantización

El tamaño de un modelo de lenguaje grande en disco viene determinado casi por completo por cuántos parámetros tiene y en cuántos bits se almacena cada parámetro. Un peso no es más que un número, y un modelo es una larga lista de ellos, de modo que multiplicar la cantidad por la profundidad de bits por peso y convertir a bytes da una estimación cercana del tamaño del archivo, y de cuánta memoria hace falta para cargarlo. Esta calculadora convierte un número de parámetros y un formato de cuantización en una cifra en gigabytes decimales y otra en gibibytes binarios.

La fórmula

Con un número de parámetros $N$ en miles de millones y una profundidad de bits $b$ por parámetro, el tamaño de los pesos en gigabytes decimales es

La división entre ocho convierte bits a bytes. Como mil millones de bytes son exactamente un gigabyte decimal, expresar $N$ en miles de millones hace que el resultado salga directamente en gigabytes. La misma cantidad en gibibytes binarios, la unidad que muestran la mayoría de los sistemas operativos y herramientas de GPU, es

ya que un gibibyte son $2^{30} = 1\,073\,741\,824$ bytes.

Ejemplo resuelto

Considérese un modelo de 7 mil millones de parámetros almacenado a 16 bits por peso, el formato estándar de media precisión en el que se distribuyen la mayoría de los modelos:

Así, los pesos ocupan unos 14 GB en disco, que una herramienta de memoria reporta como aproximadamente 13 GiB. Cuantizar el mismo modelo a 4 bits guardaría cada peso en una cuarta parte del espacio, reduciendo el archivo a unos 3,5 GB.

Elegir una precisión

La precisión completa de 32 bits se usa sobre todo durante el entrenamiento. Para el despliegue, los 16 bits son la referencia habitual, mientras que la cuantización de 8 y 4 bits cambia algo de exactitud por la mitad o la cuarta parte de la huella. Los formatos de pocos bits como INT4 son los que permiten que un modelo con decenas de miles de millones de parámetros quepa en una sola GPU de consumo. La estimación de tamaño que se ofrece aquí cubre únicamente los pesos; ejecutar el modelo también necesita espacio para las activaciones y la caché de clave-valor, que contempla la Calculadora de VRAM para inferencia de LLM. Para convertir un tamaño en un tiempo de transferencia por una conexión dada, véase la Calculadora de tiempo de descarga de un modelo.