AI 냉각① — HVAC·공랭: 기존 데이터센터는 어떻게 열을 식혔나?

AI 데이터센터를 설명할 때 우리는 GPU의 연산 성능부터 떠올린다. 하지만 GPU가 계산을 많이 할수록 반드시 따라오는 것이 있다. 바로 열이다.

전기를 사용하는 모든 반도체는 일부 에너지를 열로 바꾼다. 문제는 AI 가속기가 이전 세대 서버보다 훨씬 많은 전력을 사용하고, 한 랙 안에 수십 개의 고성능 GPU를 밀집시키면서 열이 한곳에 집중된다는 점이다. 과거 기업용 서버가 들어 있던 랙은 5~15kW 정도의 열을 처리하는 경우가 흔했지만, 최근 AI 랙은 100kW를 넘어가는 설계가 등장했다. 슈나이더 일렉트릭이 2025~2026년에 공개한 NVIDIA GB300 NVL72 기반 레퍼런스 디자인은 랙당 최대 약 142kW급 고밀도 환경을 전제로 한다.

그래서 오늘날 데이터센터 경쟁에서는 ‘GPU를 얼마나 많이 확보했는가’만큼 ‘그 GPU에서 나오는 열을 얼마나 안정적으로 빼낼 수 있는가’가 중요해졌다. 이번 편에서는 액체냉각으로 바로 넘어가기 전에, 데이터센터가 원래 어떤 방식으로 열을 식혀왔는지부터 살펴본다. HVAC, CRAC, CRAH, Chiller 같은 용어가 왜 등장하는지 이해하면 이후 Direct-to-Chip, CDU, 액침냉각도 훨씬 쉽게 이해할 수 있다.

데이터센터 냉각의 기본은 ‘열을 밖으로 옮기는 것’이다

냉각이라는 말을 들으면 차가운 바람을 만드는 것을 먼저 떠올리지만, 냉각의 본질은 열을 없애는 것이 아니라 한 장소에서 다른 장소로 이동시키는 것이다.

서버가 열을 만들면 팬이 뜨거워진 공기를 서버 밖으로 밀어낸다. 데이터센터 공조설비는 그 뜨거운 공기를 모아서 냉각하고 다시 차가운 공기로 서버 앞쪽에 공급한다. 냉각된 공기가 서버를 통과하면서 열을 흡수하고, 다시 뜨거운 공기가 되어 후면으로 빠져나오는 순환이 반복된다.

따라서 데이터센터의 HVAC는 단순한 ‘대형 에어컨’이 아니다. 온도뿐 아니라 습도, 공기 흐름, 압력, 먼지, 결로 위험까지 관리해야 한다. 수천 대의 서버가 24시간 멈추지 않고 동작해야 하기 때문에 안정성과 이중화도 중요하다.

Hot Aisle과 Cold Aisle은 왜 나눌까?

전통적인 데이터센터에서 서버랙은 앞면끼리, 뒷면끼리 마주 보게 배치한다. 서버는 보통 앞쪽에서 차가운 공기를 빨아들이고 뒤쪽으로 뜨거운 공기를 내보낸다.

랙 앞면이 마주 보는 통로를 Cold Aisle, 후면이 마주 보는 통로를 Hot Aisle이라고 한다. 이렇게 차가운 공기와 뜨거운 공기를 분리하면 이미 데워진 공기가 다시 서버 흡입구로 들어가는 ‘재순환’을 줄일 수 있다.

더 발전된 구조가 Hot Aisle Containment 또는 Cold Aisle Containment다. 통로 자체를 벽과 문으로 막아 뜨거운 공기와 차가운 공기가 섞이지 않도록 한다. 별것 아닌 것처럼 보이지만 공기 혼합을 줄이는 것만으로도 냉각 효율이 크게 좋아질 수 있다.

CRAC와 CRAH는 무엇이 다를까?

데이터센터 냉각을 공부하면 CRAC와 CRAH라는 용어가 자주 나온다.

CRAC는 Computer Room Air Conditioner의 약자다. 일반적인 에어컨처럼 냉매를 직접 이용해 공기를 냉각한다. 중소형 데이터센터나 특정 구역을 독립적으로 냉각할 때 많이 사용된다.

CRAH는 Computer Room Air Handler다. CRAH 자체가 냉매 압축 사이클을 수행하기보다 중앙 냉동기에서 공급된 차가운 물, 즉 chilled water를 이용해 공기를 식힌다. 대형 데이터센터에서는 냉동기를 중앙에 두고 여러 CRAH가 냉수를 공유하는 구조가 흔하다.

둘의 공통점은 결국 ‘공기를 식혀 서버에 보내는 장치’라는 것이다. 그러나 AI 서버의 열밀도가 높아지면서 이 공기를 얼마나 많이, 얼마나 빠르게 움직일 수 있느냐가 한계에 가까워지고 있다.

Chiller와 Cooling Tower는 데이터센터 밖에서 무슨 일을 할까?

서버에서 나온 열은 데이터센터 내부에서 사라지지 않는다. 결국 건물 밖으로 버려야 한다.

Chiller는 냉수를 만드는 냉동기다. 냉수를 데이터홀의 CRAH나 다른 열교환기로 보내 열을 흡수하게 하고, 다시 돌아온 뜨거운 물을 냉각한다. 이 과정에서 모인 열은 Cooling Tower나 Dry Cooler 같은 열배출 장치를 통해 외부 대기로 방출된다.

쉽게 말하면 서버 → 공기 → 냉수 → 외부공기 순서로 열이 이동하는 것이다.

지역의 기후에 따라 Free Cooling도 사용할 수 있다. 외부 기온이 충분히 낮을 때 압축기를 최대한 사용하지 않고 외부공기나 냉각수를 활용하면 전력소비를 줄일 수 있다. 그래서 데이터센터 입지를 결정할 때 기온과 습도도 중요한 요소가 된다.

PUE에서 냉각은 왜 중요한가?

데이터센터 효율을 이야기할 때 PUE라는 지표가 자주 등장한다. PUE는 데이터센터 전체 전력소비량을 IT 장비가 사용한 전력으로 나눈 값이다.

서버가 1MW를 사용하는데 냉각, UPS, 조명 등까지 포함해 전체 시설이 1.5MW를 사용한다면 PUE는 1.5가 된다. 숫자가 1에 가까울수록 IT 장비 이외에 낭비되는 전력이 적다는 의미다.

과거에는 냉각이 데이터센터의 상당한 보조전력을 차지했다. 그래서 팬 속도를 줄이고, 외기냉방을 사용하고, 높은 냉수 온도를 활용하는 방식으로 효율을 높여왔다.

AI 시대에는 상황이 더 복잡하다. GPU 전력 자체가 크게 증가하면서 냉각 전력도 늘지만, 동시에 액체냉각을 사용하면 팬과 압축기 사용을 줄일 여지가 생긴다. 즉 고밀도 AI 데이터센터는 더 많은 전력을 사용하지만, 냉각 방식에 따라 PUE를 오히려 개선할 수도 있다.

공랭은 왜 고밀도 AI 랙에서 한계에 부딪힐까?

공기는 열을 운반하는 능력이 물보다 훨씬 낮다. 같은 양의 열을 옮기려면 훨씬 많은 공기를 움직여야 한다.

랙당 열밀도가 높아지면 더 큰 팬과 더 많은 풍량이 필요하고, 팬 전력과 소음도 증가한다. 바닥 아래 공간이나 천장 덕트로 이동시킬 수 있는 공기의 양에도 한계가 있다. 무엇보다 GPU 칩 자체에서 발생한 열을 히트싱크와 공기를 통해 제거하는 과정에서 열저항이 커진다.

Vertiv가 2026년 공개한 실제 개조 사례에서도 기존 시설은 약 5kW/cabinet 중심의 전통적인 CRAC 환경이었지만 신규 고객은 30kW 이상, 이후 100kW 이상의 랙을 요구하면서 액체냉각 전환이 필요해졌다. 이는 오늘날 데이터센터 업계가 직면한 현실을 잘 보여준다.

그렇다면 HVAC는 사라질까? 아니다

여기서 가장 흔한 오해가 하나 있다. 액체냉각이 확대되면 데이터센터 공조가 필요 없어질 것이라는 생각이다.

현재 대부분의 Direct-to-Chip 시스템은 GPU와 CPU처럼 열이 가장 많이 나는 부품에 cold plate를 붙여 열의 상당 부분을 액체로 제거한다. 하지만 DIMM, SSD, NIC, 전원부, 케이블, 스위치 등 일부 부품은 여전히 공기로 냉각되는 경우가 많다.

따라서 최신 AI 데이터센터는 공랭과 액체냉각이 공존하는 Hybrid Cooling 구조가 일반적이다. Vertiv 역시 Direct-to-Chip과 Rear-Door Heat Exchanger를 결합해 남은 공기열을 처리하는 구성을 제시한다.

HVAC의 역할은 사라지는 것이 아니라 변한다. 과거에는 서버 열의 대부분을 공기로 처리했다면, 앞으로는 액체가 주요 열을 제거하고 HVAC는 잔여 열과 실내 환경을 관리하는 방향으로 이동한다.

최신 흐름: 더 따뜻한 냉각수를 쓰는 이유

냉각수는 무조건 차가울수록 좋을 것 같지만 최근 AI 데이터센터에서는 오히려 더 높은 온도의 냉각수를 사용하는 방향이 중요해지고 있다.

NVIDIA는 2026년 Vera Rubin 세대에서 시스템 전체를 100% 액체냉각하고 최대 45°C 수준의 따뜻한 냉각수를 사용할 수 있는 설계를 강조했다. 냉각수가 충분히 따뜻하면 외부 기온이 낮지 않은 지역에서도 냉동기 압축기를 적게 사용하거나 아예 사용하지 않는 warm-water cooling이 가능해진다.

이는 냉각 효율뿐 아니라 물 사용량과 시설 비용에도 영향을 준다. 결국 최신 데이터센터 냉각의 경쟁은 ‘얼마나 차갑게 만들 것인가’가 아니라 ‘얼마나 높은 온도에서도 칩의 열을 안정적으로 밖으로 옮길 수 있는가’로 바뀌고 있다.

AI 시대 냉각을 이해하는 전체 그림

전통적인 데이터센터의 열 흐름은 서버 → 공기 → CRAH/CRAC → 냉수 → Chiller → Cooling Tower였다.

최신 AI 데이터센터에서는 GPU/CPU → Cold Plate → Coolant Loop → CDU → Facility Water → Fluid Cooler/Chiller로 새로운 액체 경로가 추가된다. 동시에 서버에 남은 열은 기존 HVAC가 처리한다.

이 구조를 이해하면 이후 기술들이 모두 연결된다. 다음 편에서는 뜨거운 GPU 위에 금속 냉각판을 직접 붙이는 Direct-to-Chip Liquid Cooling을 살펴본다. 왜 최신 AI 랙의 냉각 중심이 공기에서 액체로 이동하는지, 그리고 CDU가 왜 ‘냉각수의 배전반’이라고 불리는지 알아보자.

핵심 정리

• AI 랙의 열밀도가 높아지면서 냉각은 데이터센터의 핵심 설계조건이 되었다.
• 현재 상용화된 기술과 차세대 연구기술을 구분해 설명해야 한다.
• AI 데이터센터에서 HVAC는 사라지는 기술이 아니라, 액체냉각과 역할을 나눠 갖는 기술로 진화하고 있다.

AI 데이터센터에서 HVAC는 사라지는 기술이 아니라, 액체냉각과 역할을 나눠 갖는 기술로 진화하고 있다.

같이 읽기

• AI 데이터센터③ — 액체냉각, GPU의 열을 물로 식히는 시대
• AI 반도체 기술⑥ — CXL·NVLink
• 다음 글: AI 냉각② — Direct-to-Chip: GPU에 냉각판을 직접 붙이는 시대

참고자료

• NVIDIA GB300 NVL72
• NVIDIA Liquid Cooling AI Factories, 2026-06-21
• Schneider Electric Reference Design 110/111, GB300 NVL72
• Vertiv Cooling Innovation Day 2026

※ 본 글은 산업 기술을 설명하기 위한 정보형 콘텐츠이며 특정 종목의 매수·매도 권유가 아닙니다.