AI 데이터센터의 병목은 이제 ‘전기를 얼마나 확보하느냐’다
AI 데이터센터를 이야기하면 GPU와 HBM을 먼저 떠올리기 쉽다. 하지만 수천 개의 GPU를 실제로 켜는 순간 전혀 다른 문제가 시작된다. 바로 전력이다.
일반적인 데이터센터는 수년 동안 비교적 안정적인 랙 밀도를 전제로 설계됐다. 한 랙에 5~15kW, 조금 높은 곳은 수십 kW를 넣고, UPS와 배전반, PDU가 그 전력을 나눠주는 구조였다. 그런데 AI 랙은 100kW를 넘어 400kW 이상을 향하고 있고 차세대 랙은 MW급까지 논의된다.
문제는 단순히 전기가 많이 필요하다는 데 있지 않다. 같은 공간에 훨씬 많은 전력을 밀어 넣으려면 변압기, 스위치기어, 케이블, 버스웨이, UPS, 전력변환 장치의 크기와 발열, 전류가 함께 커진다. 이제 AI 데이터센터에서 ‘전력 아키텍처’ 자체가 GPU 성능을 결정하는 기술이 된 이유다.
발전소의 전기는 GPU에 바로 들어가지 않는다
전력망에서 들어온 전기는 여러 단계를 거쳐 GPU까지 도달한다.
발전소에서 생산된 고전압 전기는 송전망과 변전소를 지나 데이터센터 부지로 들어온다. 데이터센터에서는 다시 변압기를 통해 전압을 낮추고, 스위치기어가 회로를 보호하고 분배한다. UPS는 정전이나 순간전압강하 때 서버가 꺼지지 않도록 버티는 시간을 제공한다.
그 뒤 PDU와 버스웨이가 랙까지 전기를 보내고, 서버 내부에서는 AC를 DC로 바꾸고 다시 GPU가 사용하는 낮은 전압으로 변환한다. 이 과정마다 변환손실과 열이 발생한다.
즉 ‘1MW를 계약했다’고 해서 1MW가 그대로 GPU 계산에 쓰이는 것은 아니다. 얼마나 적은 손실로 안정적으로 GPU까지 전달하느냐가 데이터센터 효율의 핵심이다.
랙 전력밀도가 올라가면 가장 먼저 전류가 문제가 된다
전력은 전압과 전류의 곱으로 생각할 수 있다. 같은 전력을 낮은 전압으로 보내려면 더 많은 전류가 필요하다.
전류가 커지면 케이블과 버스바가 두꺼워져야 하고 구리 사용량도 늘어난다. 커넥터와 차단기도 더 커져야 하며, 전류가 흐르는 과정에서 발생하는 손실과 열도 증가한다.
과거 48V 또는 54V DC는 서버 내부에서 충분히 현실적인 방식이었다. 하지만 랙 전력이 수백 kW를 넘어가면 같은 저전압으로 전력을 공급하기 위해 엄청난 전류를 다뤄야 한다.
그래서 최신 AI 전력 설계에서는 단순히 더 굵은 케이블을 쓰는 대신 전압 자체를 높이는 방향이 중요해지고 있다.
AC 전력도 여러 번 변환되면 손실이 쌓인다
오늘날 대부분의 데이터센터는 교류 AC 기반이다. AC는 송배전과 차단, 변압이 쉽고 오랫동안 산업표준으로 사용돼 왔다.
하지만 AI 랙에서는 AC가 여러 단계의 변환을 거친다. 시설 전력에서 랙으로 들어오고, 서버 전원공급장치에서 DC로 바뀌며, 다시 보드와 GPU가 사용하는 여러 전압으로 변환된다.
변환장치 하나의 효율이 98~99%라도 수백 MW 규모의 AI 캠퍼스에서는 작은 손실이 엄청난 전력과 열로 바뀐다.
따라서 차세대 설계의 목표는 ‘전기를 더 많이 만드는 것’만이 아니라 ‘전력변환 횟수를 줄이고 GPU에 도달하는 효율을 높이는 것’이다.
전력과 냉각은 따로 설계할 수 없다
전기를 많이 넣으면 그만큼 열도 많이 발생한다. GPU 자체의 열뿐 아니라 UPS, 전원공급장치, 전력변환 모듈, 케이블에서도 손실이 열로 바뀐다.
그래서 랙 전력밀도가 올라가면 전력설비가 차지하는 공간과 냉각부하가 동시에 문제가 된다.
최근 AI 데이터센터가 800VDC와 액체냉각을 함께 논의하는 이유도 같다. 전력변환 장치를 랙 밖으로 옮기거나 변환단계를 줄이면 컴퓨팅 랙 안에 더 많은 GPU를 넣을 수 있고, 전력장비가 내는 열도 줄일 수 있다.
결국 AI Factory의 전력과 냉각은 하나의 물리 인프라로 함께 설계해야 한다.
전력망 연결 자체도 병목이 되고 있다
데이터센터 내부 설계를 아무리 잘해도 외부 전력망에서 충분한 전기를 받지 못하면 아무 소용이 없다.
미국의 주요 데이터센터 지역에서는 대형 신규 부하가 빠르게 늘면서 송전선과 변전소 용량이 부족해지고 있다. PJM 같은 전력시장에서는 송전 혼잡비용이 급증하고 대형 부하를 연결하는 방식 자체를 다시 설계하고 있다.
전력망 증설에는 발전소보다 더 긴 시간이 필요한 경우도 많다. 송전선은 여러 지역의 인허가와 토지 문제를 거쳐야 하고, 대형 변압기와 차단기 같은 장비 납기도 길어졌다.
그래서 AI 기업은 ‘서버를 어디에 놓을까’보다 ‘전력을 언제 받을 수 있는 땅인가’를 먼저 묻기 시작했다.
AI 데이터센터는 이제 ‘전력 공장’이기도 하다
과거 데이터센터는 전기를 소비하는 건물이었다. 최신 AI Factory는 전력을 받아 변환하고 저장하고 때로는 현장에서 발전하며 수백 MW를 실시간으로 제어하는 거대한 전력시스템에 가까워지고 있다.
대형 UPS와 배터리, 마이크로그리드, 현장발전, 수요반응, 자체 변전소까지 하나의 데이터센터 프로젝트 안에 들어온다.
따라서 AI 인프라의 새로운 경쟁력은 GPU 확보량만이 아니다. 전력계통 접속권, 변압기 납기, 현장발전 허가, 배터리 용량, 전력변환 효율까지 함께 확보해야 한다.
다음 편에서는 이 문제를 해결하기 위해 왜 NVIDIA와 Google, Microsoft, OCP 생태계가 800VDC라는 새로운 전력 구조를 밀고 있는지 살펴본다.
이 글에서 기억할 핵심
- AI 데이터센터의 전력 기술은 GPU 성능과 직접 연결되는 핵심 물리 인프라다.
- AI 데이터센터의 전력 문제는 ‘전기를 많이 쓰는 것’이 아니라, 수백 kW에서 MW급 랙까지 전력을 효율적으로 변환·분배·보호하는 기존 구조 자체가 한계에 가까워지고 있다는 데 있다.
- 상용 기술과 차세대 기술, 그리고 장점과 한계를 함께 구분해 이해해야 한다.
한 줄 핵심
AI 데이터센터의 전력 문제는 ‘전기를 많이 쓰는 것’이 아니라, 수백 kW에서 MW급 랙까지 전력을 효율적으로 변환·분배·보호하는 기존 구조 자체가 한계에 가까워지고 있다는 데 있다.
같이 읽기
전력량과 전력용량을 구분해야 한다
데이터센터 전력 기사에서 MW와 MWh가 자주 섞입니다. MW는 특정 순간에 필요한 전력의 크기이고, MWh는 일정 시간 누적 사용량입니다. 100MW 시설이 평균 80% 부하로 24시간 가동하면 하루 사용량은 약 1,920MWh입니다. 전력회사는 연간 에너지뿐 아니라 시설이 요구하는 최대 부하와 증가 속도, 전압 변동까지 감당해야 합니다.
AI 부하는 GPU 집단작업 때문에 짧은 시간에 전력이 함께 오르내릴 수 있습니다. 따라서 발전량이 충분하더라도 변전소·송전선·변압기·인입설비가 피크를 전달하지 못하면 가동이 제한됩니다. 전력 확보 발표를 볼 때 계약용량, 실제 공급 시점, 단계별 램프업, 전력품질과 비상전원 조건을 구분해야 합니다.
편집부 계산: 100MW × 0.8 × 24시간 = 1,920MWh/일. 이해를 위한 예시입니다.
확인할 네 가지
- 발표된 수치가 IT 부하인지 시설 전체 부하인지
- 평균 사용량인지 최대 인입용량인지
- 전력 공급이 한 번에 이뤄지는지 단계적으로 늘어나는지
- 부하 변동과 순간 정전을 흡수할 설비가 있는지
추가 원자료: 미국 에너지부 데이터센터 전력수요 보고서 안내, IEA Energy and AI — Electricity Demand
참고자료
본문에 명시된 NVIDIA, Schneider Electric, Vertiv, Eaton, GE Vernova 등 공식 기술자료와 2026년 주요 보도를 참고했습니다.
※ 본 글은 산업과 기술 구조를 이해하기 위한 정보형 콘텐츠이며 특정 기업이나 종목의 매수·매도 추천을 목적으로 하지 않습니다.