GPU 스케줄러가 발전소를 대신하는 순간

AI 전력난보다 더 위험한 것

GPU가 멈칫하면 전력망이 출렁인다

AI 데이터센터의 문제는 막대한 전력 소비에만 있지 않다. 초대형 부하가 하나의 계통 접속점에 집중된다는 점이 더 큰 부담이다.

미국 전력연구소(EPRI)의 한 연구자가 제시한 기준에 따르면, AI 랙 한 대의 최대 전력은 미국의 일반 가정 약 100채가 사용하는 전력과 맞먹는다. 데이터센터는 2030년까지 미국 전력수요 증가분의 절반 가까이를 차지할 전망이다. 전 세계 데이터센터 전력 소비량도 945TWh로 늘어나 2024년의 두 배에 이를 것으로 예상된다.

랙의 전력 밀도는 전력망의 확충 속도보다 빠르게 높아지고 있다. 2027년 하반기 출시를 목표로 하는 NVIDIA의 ‘Rubin Ultra Kyber NVL576’은 800V 직류 방식으로 랙당 약 600kW를 공급한다. 가정 100채 규모였던 랙 부하가 500채 규모로 커지는 데 걸리는 시간이 데이터센터의 계통 접속 대기 기간보다 짧은 셈이다.

전력 사용량의 급격한 변동도 문제다. AI 학습 과정에서 GPU가 다른 GPU의 통신 결과를 기다리면 데이터센터의 소비전력이 수십∼수백MW 단위로 오르내릴 수 있다. 특히 0.2∼3Hz 구간의 전력 진동은 발전기의 공진을 일으킬 위험이 있다. 이에 일부 전력회사는 0.1∼20Hz 구간의 부하 변동을 정격전력의 20% 이하로 제한하기 시작했다.

정전 방지 장치인 무정전전원장치(UPS)의 동작 방식 역시 계통 안정성에 큰 영향을 미친다. 2024년 7월 북버지니아에서는 82초 동안 여섯 차례의 전압 교란이 발생했다. 이에 데이터센터 부하 약 1.5GW가 한꺼번에 백업전원으로 전환됐고, 계통 주파수는 60.047Hz까지 상승했다. 2026년 7월에는 3GW가 넘는 부하가 계통에서 이탈했다.

이처럼 대규모 부하가 갑자기 사라진 원인 중 하나는 UPS의 전환 로직이었다. 일부 UPS는 1분 안에 세 차례의 전압 강하를 감지하면 계통에 문제가 있다고 판단해 백업전원으로 전환했다. 짧은 전압 강하에도 수많은 데이터센터가 동시에 반응하면서 계통의 수급 균형이 흔들린 것이다.

전력 당국은 UPS가 순간적인 전압 교란을 견디도록 기준을 강화하고 있다. 미국 버지니아주의 전력회사 Dominion Energy는 UPS가 50∼70ms의 재폐로 시간을 견디고, 저전압 전환 기준을 정격전압의 약 85%로 설정하도록 요구한다. 아일랜드는 계통 고장이 제거된 뒤 500ms 안에 기존 수요의 90%를 복구하도록 규정했다.

북미전력신뢰도협회(NERC)의 ‘Level 3’ 경보와 미국 연방에너지규제위원회(FERC)의 연산 부하 관련 표준 제정 명령도 같은 방향을 가리킨다. 데이터센터 내부 설비의 문제로 여겨졌던 UPS 보호 설정과 부하 제어 방식이 이제 전력계통 전체의 안정성을 좌우하는 핵심 규칙으로 편입되고 있다.

연 22시간만 피하면 100GW가 열린다

미국 전력망은 연간 약 22시간만 신규 전력 수요를 조절해도 76GW의 부하를 추가로 수용할 수 있다는 분석이 나왔다. 22시간은 1년의 0.25%에 불과하다. 조절 시간을 0.5%로 늘리면 수용 가능한 부하는 98GW, 1%로 늘리면 126GW까지 증가한다. 76GW만 해도 미국 최대 전력 수요의 약 10%에 해당한다. 즉, 수요가 몰리는 시간대만 피하면 새로운 발전소나 장거리 송전선 없이도 기존 전력망의 여유 용량을 활용해 약 100GW의 부하를 더 수용할 수 있다는 계산이다.

여기서 말하는 수요 조절은 서버를 끄는 것이 아니라, 일부 작업의 처리 시점을 늦추는 방식에 가깝다. 2025년 5월 3일 미국 피닉스에서 진행된 실증에서는 256개 GPU로 구성된 클러스터가 먼저 15분 동안 출력을 낮춘 뒤, 저녁 피크 시간대 세 시간 동안 전력 사용량을 25% 줄였다. 하드웨어를 개조하거나 별도의 저장장치를 설치하지 않고 오케스트레이션 소프트웨어만으로 수행했다. 작업은 우선순위에 따라 분류했으며, Flex 1, 2, 3 등급에는 처리시간이 각각 10%, 25%, 50%까지 늘어나는 것을 허용했다.

후속 실증에서는 사전 예고 없이 감축 지시를 내려도 40초 안에 전력 사용량을 약 30%, 1분 안에 40% 줄였다. 감축률 10~40%를 2~10시간 유지하는 데도 성공했다. 서비스 성능에 미친 영향은 제한적이었다. 전력 제한을 받은 추론 작업의 첫 토큰 응답시간은 약 30밀리초 늘어났고, 트래픽을 다른 지역으로 이전했을 때도 응답시간이 잠시 상승하는 데 그쳤다.

다만 약 100GW라는 수치를 미국 전역에 그대로 적용할 수는 없다. 초기 계산에는 지역별 송전망 제약이 반영되지 않았으며, 실제로 확보할 수 있는 수요 유연성도 추가로 검증해야 한다. 데이터센터의 입지가 좋지 않으면 선로 과부하가 최대 30.1% 증가할 수 있다. 적절한 부지를 선택하면 태양광 발전의 출력 제한을 최대 61% 줄일 수 있지만, 송전 혼잡을 완화하는 데는 입지보다 전력 사용 시간대를 조절하는 편이 더 효과적이다.

피닉스 실증이 연산 장비의 전력만 제어했다는 점도 한계다. 데이터센터 전체의 부하를 안정적으로 줄이려면 서버뿐 아니라 냉각 설비와 백업전원까지 함께 조정할 수 있어야 한다.

빠른 변동과 긴 피크, 해법은 다르다

전력 변동은 한 가지 기술만으로 해결하기 어렵다. 짧은 변동은 GPU 제어로 완화하고, 더 긴 변동은 랙 단위 저장장치로 흡수하는 방식이 효과적이다.

전력 부하 평탄화 기술인 Firefly는 GPU의 유휴 구간에 보조 작업을 실행해 전력 부하를 일정하게 유지한다. 성능 저하는 5% 미만이지만, 보조 작업만큼 전력을 추가로 소비한다. NVIDIA GB200의 ‘파워 스무딩’ 기능은 최소 출력을 열설계전력(TDP)의 90%까지 높이고 출력 변화 속도도 제한할 수 있다. 그러나 에너지 사용량이 10.5% 증가하고, 엄격한 전력 변동 기준을 충족하기에는 한계가 있다. 반면 랙 단위 저장장치는 전력을 낭비하지 않고 비교적 느린 변동을 흡수하지만, 초기 투자비와 장비 생산 과정에서 발생하는 내재탄소를 부담해야 한다. 따라서 GPU 제어와 랙 단위 저장장치를 함께 사용하는 구성이 현실적이다.

800V 직류(800VDC) 배전은 이러한 구성을 뒷받침한다. 랙 내부의 교류/직류 변환 단계를 없애 전력 효율을 최대 5% 높이고, 유지비를 최대 70% 줄일 수 있다. 또한 소비전력이 2,300W에 이르는 칩과 600kW급 랙을 수용하며, 저장장치를 랙의 직류 버스에 직접 연결할 수 있는 기반도 제공한다.

냉각 부하는 시간대를 옮겨 전력 피크를 낮출 수 있다. 전력 수요가 적은 밤에 얼음이나 냉수를 만들거나 지하 대수층에 냉열을 저장한 뒤, 수요가 많은 낮에 사용하는 방식이다. 액체는 공기보다 열용량이 약 4배 크고 열전도도도 20~100배 높다. 따라서 18~25℃의 비교적 따뜻한 냉각수로도 서버를 식힐 수 있어 냉동기(칠러)의 전력 소비를 줄일 수 있다. 실제로 연산 부하와 냉각 설비, 저장장치를 통합 제어한 사례에서는 최대 전력 수요가 25~35% 감소했다.

다만 기존 비상전원만으로 장시간 피크에 대응하기는 어렵다. 디젤 발전기는 비상 상황이 아닌 일반 운전이 연간 100시간으로 제한되며, 전력망 지원 목적의 운전은 50시간까지만 허용된다. 중앙형 UPS는 5~12분, 랙 단위 UPS는 수 분 정도만 전력을 공급할 수 있다. 따라서 세 시간가량 이어지는 피크를 낮추려면 최소 4시간급 구내 배터리가 필요하다.

전력 유연성을 실제 계통 자원으로 활용하려면 설비만큼 제어 체계도 중요하다. 전력회사는 감축 가능한 전력량뿐 아니라 초 단위 GPU 계측, 랙 단위 성능 검증, 전력 수요 예측, SLURM 기반 작업 제어, 전력망 연계 인터페이스까지 요구한다. 이 기능을 통합한 ‘Conductor’는 영국의 130kW 클러스터와 미국의 60kW 클러스터에서 검증됐다. 여기에 장비 제조사가 제공하는 UPS 트립 곡선도 계통 운영 기준에 반영된다. 이 곡선은 UPS가 어떤 전압과 주파수 조건에서 차단되는지를 보여주며, 데이터센터가 유연성 계약으로 제공할 수 있는 전력 조정 범위를 결정한다.

변압기는 부족해도 접속 용량은 만들 수 있다

2026년 현재, 변전용 변압기를 확보하는 데는 160주 이상이 걸린다. 용량별 조달 기간은 다음과 같다.

용량	조달 기간
600MVA급	30~48개월
200~500MVA급	24~36개월

이 같은 조달난으로 프로젝트의 65~70%가 6~18개월씩 지연되고 있으며, 일부 지역에서는 전력망 접속에 최대 10년이 걸린다. 전력 부족은 가격에도 반영됐다. 미국 최대 전력시장 운영기관인 PJM의 용량가격은 MW-day당 28.92달러에서 329.17달러로 약 11배 상승했다.

이 대기 시간을 줄일 대안으로 감축 가능 접속(curtailable interconnection)이 떠오르고 있다. 전력망이 부족할 때 사용량을 줄이는 조건으로 더 빨리 접속하는 계약 방식이다. Google은 2026년 3월, 5개 전력회사와 체결한 장기계약에 총 1GW 규모의 수요반응을 포함했다. 감축 대상으로는 머신러닝 작업을 지정했다. 약속한 감축량을 달성하면 요금 크레딧을 받고, 이행하지 못하면 크레딧 일부를 반환하는 구조다.

규제기관도 대규모 전력 수요처의 접속 조건을 강화하고 있다. PJM의 제안에 따르면 2027년 6월부터 50MW 이상의 신규 부하는 용량이 부족할 때 가정용 수요보다 먼저 감축된다. 다만 자체 발전설비를 갖춘 시설은 예외다. 텍사스주 법안 SB6은 75MW 이상 신규 부하에 원격 차단 설비를 의무화한다. FERC가 제시한 2026년 말 시한이 지나면 UPS의 순간정전 버티기 성능과 전력 사용량의 증감 속도를 조절하는 램프 제어 능력도 적합성 심사 대상이 된다.

기술적으로는 이미 상당한 감축 가능성이 확인됐다. 계통이 요구하는 감축 시간은 연간 약 22시간이다. 실증 결과에 따르면 AI 시설은 40초 안에 부하의 30%를 줄일 수 있으며, 3시간 동안 25%, 2~10시간 동안 10~40%를 감축할 수 있다. 즉, 계통의 요구와 AI 시설의 대응 능력은 상당 부분 맞물린다. 다만 어떤 작업을 얼마나 늦추거나 줄일 수 있는지 접속 계약서에 구체적으로 명시해야 한다. 아직 이를 위한 표준계약서는 마련되지 않았다.

AI 데이터센터가 조절할 수 있는 전력은 평균 소비량의 18~55%로 추정된다. 실제 유연성은 학습, 파인튜닝, 추론 등 작업 유형에 따라 달라진다. 특히 서비스 수준 협약(SLA)이 적용되는 실시간 추론의 비중이 커질수록 스케줄러가 조정할 수 있는 여지는 줄어든다.

따라서 전력 유연성은 설계 초기부터 확보해야 한다. 랙 단위 저장장치와 건물의 열질량을 활용하는 설비는 완공 후 추가하기 어렵다. 부지를 검토할 때도 변전소 구성과 변압기 연식, 남은 접속 베이, 접속 대기열을 우선 확인해야 한다.

이 접근법의 핵심은 새로운 발전소를 지어 100GW를 추가하는 데 있지 않다. 연중 전력 수요가 가장 높은 약 22시간 때문에 활용하지 못했던 기존 계통의 여유 용량을 끌어내는 데 있다.

출처

#AI 산업 #컴퓨트·데이터센터 #반도체