Última actualización: 2026-06-22

Qué es el coste energético de inferencia

El coste energético de inferencia es el gasto eléctrico, y las emisiones de carbono asociadas, de atender un volumen de solicitudes de inferencia de un modelo de lenguaje. Se deriva de una cifra de energía por consulta escalada por el número de consultas, luego valorada a una tarifa eléctrica y convertida en carbono mediante la intensidad de emisión de la red local. A diferencia del entrenamiento, que es un suceso de una sola vez, la energía de inferencia se repite con cada solicitud que responde un modelo desplegado, de modo que a escala domina la huella operativa de un modelo en servicio.

Las fórmulas

Sea $N$ el número de consultas y $E_q$ la energía por consulta. La energía total es su producto, el coste eléctrico multiplica la energía por el precio $p_e$ por kilovatio-hora, y las emisiones multiplican la energía por la intensidad de red $I_g$ en gramos de dióxido de carbono por kilovatio-hora, divididas entre 1000 para obtener kilogramos:

La energía por consulta es pequeña, una respuesta corta en un acelerador bien aprovechado suele ser una fracción de vatio-hora, de modo que las cifras se convierten a kilovatios-hora antes de aplicar el precio y las emisiones.

Ejemplo resuelto

Considérense N = 1,000,000 consultas a $E_q = 0.5$ vatios-hora cada una. La energía total es

A un precio de electricidad de p_e = \0.15$ por kilovatio-hora, el coste es

A una intensidad de red de $I_g = 400$ gramos de dióxido de carbono por kilovatio-hora, una red mixta de gama media, las emisiones son

Un millón de consultas atendidas cuesta, por tanto, unos $75 en electricidad y libera alrededor de 200 kg de dióxido de carbono, antes de la sobrecarga de refrigeración e inactividad más allá de lo que $E_q$ ya incluye.

Variaciones y aplicación

Las tres entradas desplazan el resultado de forma independiente. La energía por consulta depende del tamaño del modelo, la longitud de la secuencia, el hardware y el agrupamiento de solicitudes; una generación larga de un modelo grande en hardware infrautilizado consume mucho más que una corta. El precio de la electricidad varía según la región y el contrato, y la intensidad de la red va desde menos de cien gramos por kilovatio-hora en redes con gran peso de la energía hidroeléctrica o nuclear hasta más de setecientos en las de gran peso del carbón, de modo que las emisiones de la misma carga de trabajo pueden diferir varias veces según la ubicación del cómputo. La energía y el coste alimentan decisiones de infraestructura como el análisis de Calculadora de punto de equilibrio entre alojamiento propio y API, donde la electricidad forma parte del coste variable de alojamiento propio. La energía de entrenamiento queda excluida: es un coste aparte, de una sola vez, amortizado entre todas las consultas que el modelo llegue a responder, de modo que una cifra de ciclo de vida completo debe contabilizarla por separado. El resultado es una estimación de orden de magnitud, no una medición real.