전체 GPU 시간, GPU당 소비 전력, 데이터 센터의 전력 사용 효율, 전력망의 탄소 집약도로부터 LLM 학습의 전력 소비와 탄소 배출량을 추정합니다.
입력
연산
학습이 소비하는 전체 가속기 시간으로, GPU 수에 가동 벽시계 시간을 곱한 값입니다. GPU 1,024개로 약 41일이 걸리는 학습은 대략 백만 GPU 시간입니다.
학습 중 가속기 하나의 평균 소비 전력으로, 호스트와 메모리가 차지하는 몫을 포함합니다. 데이터 센터 GPU는 부하 상태에서 보통 400에서 700와트 정도를 소비합니다.
≥ 1
시설 전체 전력을 연산 장비에 전달된 전력으로 나눈 비율로, 냉각과 분배 손실을 반영합니다. 최신 대규모 데이터 센터는 1.1에 가깝고, 1이면 부가 부담이 전혀 없다는 뜻입니다.
전력망
학습에 전기를 공급하는 전력망에서 킬로와트시당 배출되는 CO2 그램 수. 석탄 비중이 큰 전력망은 700을 넘을 수 있고, 수력이나 원자력이 풍부한 전력망은 100 아래로 떨어질 수 있습니다.
결과
값을 입력하면 계산 결과가 표시됩니다.
규모가 큰 학습을 위해 같은 배출량을 톤 단위로 표현한 값으로, 약 ...톤의 CO2입니다.
학습의 운영 탄소 배출량(단위: kg)으로, 소비 전력에 전력망 탄소 집약도를 곱한 약 ... kg입니다.
세부 정보
시설 부가 부담을 포함해 학습이 소비하는 전체 전력으로, GPU 시간에 GPU당 소비 전력과 전력 사용 효율을 곱한 약 ... kWh입니다.
LLM 학습 탄소 발자국
대규모 학습은 몇 주 동안 꾸준히 전력을 소비하며, 그로 인한 탄소 배출량은 그 전기에 전력망이 얼마나 더러운지를 곱한 값입니다. 이 계산기는 전체 GPU 시간, 가속기 하나가 평균적으로 소비하는 전력, 데이터 센터의 전력 사용 효율, 전력 공급망의 탄소 집약도로부터 학습의 운영 발자국을 추정합니다.
계산에 포함되는 양
여기서 다루는 발자국은 운영 발자국, 곧 칩이나 시설을 만드는 데 내재한 탄소가 아니라 학습 중 소비한 전기에서 나오는 배출량입니다. 학습이 쓰는 전력은 가속기 시간에 가속기당 평균 전력을 곱한 값으로, GPU 자체가 끌어오는 에너지입니다. 실제 시설은 냉각, 전력 변환, 분배에도 에너지를 쓰므로 그 값을 전력 사용 효율만큼 키웁니다. 그 결과 전력에 전력망의 탄소 집약도를 곱하면 킬로와트시가 CO2 킬로그램으로 환산됩니다.
계산식
GPU 시간을 , 가속기당 평균 전력을 와트 단위의 , 전력 사용 효율을 PUE, 전력망 탄소 집약도를 킬로와트시당 이산화탄소 그램 단위의 라 하면 전력 와 배출량 은 다음과 같습니다.
EM=1000H⋅p⋅PUE=1000E⋅I
와트 단위 전력을 1000으로 나누면 킬로와트가 되므로 는 킬로와트시로 나오고, 그램을 1000으로 나누면 킬로그램이, 다시 1000으로 나누면 톤이 됩니다. 모든 입력이 선형으로 들어가므로, 어느 하나를 절반으로 줄이면 발자국도 절반이 됩니다.
계산 예시
백만 GPU 시간 규모의 학습을 가속기 하나가 평균 700와트를 소비하고, 전력 사용 효율이 1.1인 시설에서, 킬로와트시당 400그램인 전력망에서 돌리는 경우를 살펴봅니다.
이 학습은 770메가와트시를 소비하고 308톤의 CO2를 배출합니다. 같은 학습을 킬로와트시당 100그램인 전력망으로 옮기면 전력은 전혀 바뀌지 않은 채 배출량이 77톤으로 줄어드는데, 지역과 일정이 발자국을 좌우하는 경우가 많은 이유가 여기 있습니다.
한계
이 추정값은 운영 전력 배출량만을 다룹니다. 하드웨어 제조와 시설 건설에 내재한 탄소는 제외하는데, 새 장비에서 짧게 돌리는 학습에서는 이것이 클 수 있습니다. 소비 전력은 작업에 따라 달라지고 정격 최대치인 경우가 드물며, 전력 사용 효율은 기후와 부하에 따라 변하고, 전력망 탄소 집약도는 발전 구성이 바뀌면서 시간마다 달라집니다. 가능하면 측정한 전력과 실시간 전력망 수치를 쓰십시오. 학습된 모델을 운영할 때 드는 지속적인 에너지 비용은 추론 에너지 비용 계산기가 다루고, 같은 연산의 임대 쪽은 GPU 클라우드 비용 계산기가 다룹니다.
자주 묻는 질문 (FAQ)
배출량은 어떻게 추정합니까?
먼저 학습의 전력 소비를 계산합니다. 가속기 시간에 가속기당 평균 전력을 곱하면 GPU 전력이 나오고, 여기에 전력 사용 효율을 곱하면 시설의 냉각과 분배 부가 부담이 더해집니다.
그 전체 전력(킬로와트시)에 전력망의 탄소 집약도(킬로와트시당 CO2 그램)를 곱합니다. 그 결과가 운영 탄소 발자국, 곧 학습 중 소비한 전기에서 나오는 배출량이며 kg과 톤으로 표현됩니다.
전력 사용 효율이란 무엇입니까?
전력 사용 효율(PUE)은 데이터 센터가 끌어오는 전체 에너지를 실제로 연산 장비에 도달하는 에너지로 나눈 비율입니다. 초과분은 냉각, 전력 변환, 분배에 쓰입니다.
PUE가 1.5이면 연산 전력 1와트마다 0.5와트의 부가 부담이 따른다는 뜻이고, 효율적인 대규모 시설은 약 1.1에 이릅니다. 이 값이 전력 추정값 전체를 곱하므로, 실제 시설에 맞는 값을 고르는 것이 GPU 전력 자체만큼 중요합니다.
전력망 탄소 집약도가 그토록 중요한 이유는 무엇입니까?
탄소 집약도는 전력 단위당 배출량으로, 지역과 시간에 따라 크게 달라집니다. 같은 학습이라도 킬로와트시당 700그램이 넘는 석탄 위주 전력망에서는, 100 아래인 수력·풍력·원자력이 풍부한 전력망에서보다 몇 배 더 많이 배출할 수 있습니다.
배출량이 이 값에 직접 비례하므로, 학습을 언제 어디서 돌리느냐가 어떤 효율 개선보다 발자국을 더 크게 바꾸는 경우가 많습니다. 연평균값은 계획용 추정을, 실시간 전력망 데이터는 더 정밀한 추정을 줍니다.
면책조항
이 추정값은 전력 소비에서 나오는 운영 배출량만을 다루며 하드웨어 제조와 시설 건설에 내재한 탄소는 제외합니다. 소비 전력, 전력 사용 효율, 전력망 탄소 집약도는 시간과 지역에 따라 달라지므로, 가능하면 측정값을 쓰고 결과는 근사값으로 다루십시오.