Calculadora de huella de carbono del entrenamiento
Datos de entrada
| Horas-GPU | 1.000.000 |
|---|---|
| Consumo por GPU | 700 W |
| Eficacia del uso de la energía | 1,1 |
| Intensidad de carbono | 400 |
Calculadora de huella de carbono del entrenamiento
Estima la electricidad y las emisiones de carbono de una ejecución de entrenamiento de un modelo de lenguaje a partir del total de horas-GPU, el consumo por GPU, la eficacia del uso de la energía del centro de datos y la intensidad de carbono de la red eléctrica.
Datos de entrada
Cómputo
Red eléctrica
Resultados
Introduce un valor para ver los resultados.
Detalles
Huella de carbono del entrenamiento
Una ejecución de entrenamiento grande consume energía de forma sostenida durante semanas, y el carbono que emite es esa electricidad multiplicada por lo contaminante que sea la red. Esta calculadora estima la huella operativa de una ejecución a partir del total de horas-GPU, el consumo medio de cada acelerador, la eficacia del uso de la energía del centro de datos y la intensidad de carbono del suministro eléctrico.
Las magnitudes contabilizadas
La huella aquí es operativa: las emisiones de la electricidad consumida durante el entrenamiento, no el carbono incorporado en la fabricación de los chips o de la instalación. La energía que consume una ejecución es las horas-acelerador por el consumo medio por acelerador, lo que da la energía que consumen las propias GPUs. Las instalaciones reales también gastan energía en refrigeración, conversión de potencia y distribución, de modo que esa cifra se incrementa por la eficacia del uso de la energía. Multiplicar la electricidad resultante por la intensidad de carbono de la red convierte los kilovatios-hora en kilogramos de CO2.
La fórmula
Con horas-GPU, un consumo medio por acelerador en vatios, una eficacia del uso de la energía PUE y una intensidad de carbono de la red en gramos de dióxido de carbono por kilovatio-hora, la energía y las emisiones son
EM=1000H⋅p⋅PUE=1000E⋅IDividir el consumo en vatios entre 1000 da kilovatios, de modo que resulta en kilovatios-hora; dividir los gramos entre 1000 da kilogramos, y una división adicional entre 1000 da toneladas métricas. Cada entrada interviene de forma lineal, así que reducir a la mitad cualquiera de ellas reduce a la mitad la huella.
Ejemplo resuelto
Tómese una ejecución de un millón de horas-GPU, con cada acelerador consumiendo 700 vatios de media, en una instalación con una eficacia del uso de la energía de 1,1, sobre una red a 400 gramos de CO2 por kilovatio-hora:
EM=10001000000×700×1.1=770000 kWh=1000770000×400=308000 kg=308 toneladasLa ejecución consume 770 megavatios-hora y emite 308 toneladas de CO2. Trasladar la misma ejecución a una red a 100 gramos por kilovatio-hora reduciría las emisiones a 77 toneladas sin cambiar la energía en absoluto, razón por la cual el lugar y la programación suelen dominar la huella.
Límites
La estimación cubre solo las emisiones eléctricas operativas. Excluye el carbono incorporado en la fabricación del hardware y la construcción de la instalación, que puede ser considerable en ejecuciones cortas sobre equipos nuevos. El consumo varía con la carga de trabajo y rara vez está en el máximo nominal, la eficacia del uso de la energía cambia con el clima y la carga, y la intensidad de carbono de la red se desplaza hora a hora a medida que cambia la combinación de generación. Conviene usar consumos medidos y cifras de red en tiempo real cuando estén disponibles. El coste energético continuo de servir el modelo entrenado lo cubre la calculadora de Calculadora de coste energético de inferencia, y el lado de alquiler del mismo cómputo la calculadora de Calculadora de coste de GPU en la nube.
Preguntas frecuentes (FAQ)
¿Cómo se estiman las emisiones?
Primero se calcula el consumo eléctrico de la ejecución: las horas-acelerador por el consumo medio por acelerador dan la energía de las GPUs, y multiplicar por la eficacia del uso de la energía añade la sobrecarga de refrigeración y distribución de la instalación.
A continuación, esa energía total en kilovatios-hora se multiplica por la intensidad de carbono de la red en gramos de CO2 por kilovatio-hora. El resultado es la huella de carbono operativa: las emisiones de la electricidad consumida durante el entrenamiento, expresadas en kilogramos y toneladas.
¿Qué es la eficacia del uso de la energía?
La eficacia del uso de la energía, o PUE, es la relación entre la energía total que consume un centro de datos y la energía que llega realmente al equipo de cómputo. El exceso se destina a refrigeración, conversión de potencia y distribución.
Un PUE de 1,5 significa que cada vatio de cómputo arrastra medio vatio de sobrecarga, mientras que una instalación eficiente a hiperescala alcanza alrededor de 1,1. Como la cifra multiplica toda la estimación de energía, elegir un valor acorde con la instalación real importa tanto como el propio consumo de las GPUs.
¿Por qué importa tanto la intensidad de carbono de la red?
La intensidad de carbono son las emisiones por unidad de electricidad, y varía enormemente según el lugar y el momento. La misma ejecución en una red con mucho carbón, por encima de 700 gramos por kilovatio-hora, puede emitir varias veces más que en una red rica en energía hidroeléctrica, eólica o nuclear, por debajo de 100.
Como las emisiones escalan directamente con esta cifra, dónde y cuándo se programa una ejecución suele cambiar más su huella que cualquier ajuste de eficiencia. Las medias anuales dan una estimación de planificación; los datos de red en tiempo real dan una más precisa.
Aviso legal
Esta estimación cubre solo las emisiones operativas del consumo eléctrico y excluye el carbono incorporado en la fabricación del hardware y la construcción de la instalación. El consumo, la eficacia del uso de la energía y la intensidad de carbono de la red varían con el tiempo y el lugar; conviene usar valores medidos cuando estén disponibles y tomar el resultado como una aproximación.