AI가 뜨거워질수록 냉각기업이 돈 번다…데이터센터의 숨은 산업

인공지능(AI) 경쟁이 치열해지면서 시장의 관심은 그동안 GPU와 고대역폭메모리(HBM), 첨단 패키징 같은 반도체에 집중됐다. 하지만 AI 서버가 더 많은 연산을 처리하고 한 랙에 들어가는 GPU 수가 늘어나면서 데이터센터에서는 또 다른 문제가 빠르게 커지고 있다. 바로 서버에서 발생하는 엄청난 열을 어떻게 식힐 것인가다.

과거 데이터센터는 차가운 공기를 서버실에 순환시키는 공랭식 냉각만으로도 상당 부분의 열을 처리할 수 있었다. 그러나 최신 AI 서버는 기존 서버보다 훨씬 많은 전력을 소비하고 그만큼 높은 열을 발생시키면서 공기만으로 냉각하기 어려운 영역으로 들어가고 있다. 엔비디아도 차세대 루빈(Rubin) 기반 AI 인프라를 100% 액체냉각 구조로 설계하면서, AI 데이터센터의 냉각방식이 공랭 중심에서 액체냉각으로 빠르게 이동하고 있음을 보여주고 있다.

AI 산업이 커질수록 돈이 GPU에만 들어가는 것이 아니라 냉각장비와 펌프, 열교환기, 냉각수분배장치(CDU), 배관과 전력설비까지 흘러가기 시작한 것이다.

전통적인 데이터센터에서는 서버 랙 하나가 사용하는 전력이 비교적 낮았기 때문에 팬을 돌리고 차가운 공기를 공급하는 방식으로 열을 관리할 수 있었다. 하지만 AI 서버의 전력밀도가 빠르게 높아지면서 상황이 달라졌다. 국제에너지기구(IEA)는 2020년부터 2025년 사이 AI 서버의 전력밀도가 약 11배 높아졌으며 2027년까지 다시 약 4배 증가할 가능성이 있다고 분석했다. 2027년 고성능 데이터센터의 서버 랙 하나가 순간적으로 사용하는 전력이 일반 가정 65곳과 맞먹을 수 있다는 전망도 제시했다.

전기를 많이 사용한다는 것은 결국 그만큼 많은 열을 처리해야 한다는 의미다. 반도체 성능이 아무리 높아도 열을 충분히 빼내지 못하면 칩이 제 성능을 유지하기 어렵고, 데이터센터는 서버 밀도를 높이는 데 한계를 맞게 된다.

이 때문에 등장한 것이 ‘직접 액체냉각’이다. 서버실 전체의 공기를 차갑게 만드는 대신 냉각수를 CPU와 GPU 등 열이 많이 발생하는 부품 근처까지 직접 보내 열을 흡수하는 방식이다. 액체는 공기보다 열을 전달하는 능력이 높기 때문에 같은 공간에서 더 많은 열을 처리할 수 있고, 서버를 더 촘촘하게 배치할 수 있다는 장점이 있다.

엔비디아가 2026년 공개한 루빈 세대 서버는 이러한 변화가 어디까지 진행되고 있는지를 보여준다. 엔비디아는 CPU와 GPU뿐 아니라 네트워크 구성요소까지 액체로 냉각하는 구조를 적용했고, 최대 45도의 냉각수를 사용할 수 있도록 설계했다. 냉각수를 지나치게 차갑게 유지하기 위해 많은 전력을 소비하는 대신 비교적 높은 온도에서도 서버의 열을 제거해 전체 에너지 효율을 높이려는 방식이다.

냉각장비 기업들이 주목받는 이유도 여기에서 시작된다. AI 서버가 고성능화될수록 냉각은 데이터센터 건설 이후 추가하는 부대설비가 아니라 처음 설계할 때부터 포함해야 하는 핵심 인프라로 바뀌고 있다. 냉각수분배장치는 서버에서 뜨거워진 냉각수를 다시 순환시키고, 열교환기는 열을 외부로 빼내며, 펌프와 배관은 수백~수천개의 서버 사이에서 냉각수가 안정적으로 흐르도록 해야 한다. 하나의 AI 데이터센터 안에 냉각 관련 새로운 공급망이 만들어지는 셈이다.

특히 서버 랙의 전력밀도가 100㎾를 넘어가는 환경에서는 공랭만으로 열을 처리하는 것이 점점 어려워지고 있다. 500㎾급 랙에서 발생하는 열의 90%를 액체로 처리하더라도 나머지 10%에 해당하는 50㎾를 공기로 식혀야 하기 때문에, 업계에서는 앞으로 랙 전체의 열을 액체로 처리하는 방향까지 기술개발을 확대하고 있다.

AI 데이터센터 시장이 커지면서 국내 기업의 투자 방향도 달라지고 있다. 삼성전기는 AI 데이터센터 서버용 고성능 패키지 기판과 적층세라믹커패시터(MLCC)를 차세대 성장사업으로 정하고 부산 생산·연구기지에 2040년까지 약 15조원을 투자하겠다는 계획을 공개했다. 2026년 들어 글로벌 기업들과 AI 서버용 MLCC 대형 공급계약도 잇달아 체결하면서, AI 인프라 투자가 반도체 칩을 넘어 전원·기판·부품 시장으로 확산되고 있음을 보여주고 있다.

냉각 산업 역시 비슷한 흐름을 따라갈 가능성이 크다. 데이터센터가 액체냉각 방식으로 이동하면 단순 에어컨이나 냉동기 시장만 커지는 것이 아니라 정밀 냉각설비와 열관리 소재, 고성능 펌프, 냉각수 제어시스템, 센서와 전력관리 장비까지 새로운 수요가 생긴다. 기존에 산업용 냉각이나 공조설비를 만들던 기업뿐 아니라 반도체 장비·소재기업과 전력기기 기업까지 AI 데이터센터 공급망에 진입할 수 있는 이유다.

이 변화는 데이터센터가 사용하는 전력 규모와도 연결된다. IEA에 따르면 전 세계 데이터센터 전력소비는 2024년 약 415TWh로 세계 전력소비의 약 1.5% 수준이었으며, 최근 5년 동안 연평균 약 12% 증가했다. AI용 고성능 서버의 확산이 앞으로 데이터센터 전력수요를 더 빠르게 끌어올릴 가능성이 크다는 분석이다.

결국 냉각 효율은 단순히 서버가 뜨거워지는 것을 막는 문제가 아니라 데이터센터가 감당해야 하는 전기요금을 결정하는 요소가 된다. 같은 AI 연산을 처리하더라도 냉각에 필요한 전력을 얼마나 줄이느냐에 따라 운영비가 달라지고, 데이터센터 사업자의 수익성도 영향을 받을 수 있다.

입지 선정에도 냉각과 전력 문제가 중요해지고 있다. 과거에는 통신망과 토지가 데이터센터 위치를 결정하는 주요 조건이었다면, 대규모 AI 데이터센터에서는 안정적으로 공급받을 수 있는 전력이 얼마나 되는지, 발생한 열을 어떻게 처리할 수 있는지까지 함께 고려해야 한다. 지역 전력망이 충분하지 않으면 데이터센터를 짓더라도 필요한 GPU를 모두 가동하기 어렵기 때문이다.

국내에서도 AI 인프라 투자가 본격화되면서 이런 문제가 더 현실적인 산업 이슈가 되고 있다. 삼성은 2026년 7월 제조 AI와 로봇산업을 확대하기 위해 영남권에 약 60조원을 투자하겠다는 계획을 발표하면서 구미에 AI 데이터센터를 새로 구축하고, 부산은 AI 서버용 패키지 기판과 MLCC 생산의 핵심기지로 육성하겠다고 밝혔다.

AI 데이터센터가 늘어난다고 해서 냉각기업 모두가 자동으로 성장하는 것은 아니다. 액체가 고가 서버 안으로 직접 들어가는 구조인 만큼 작은 누수나 제어 오류도 큰 손실로 이어질 수 있고, 데이터센터마다 서버 구조와 냉각방식이 달라 표준화 문제도 남아 있다. 기존 공랭 데이터센터를 액체냉각 방식으로 바꾸려면 배관과 전력, 랙 구조까지 손봐야 하기 때문에 상당한 초기 투자비도 필요하다.

그럼에도 산업의 방향은 분명해지고 있다. AI 연산량이 커지고 서버 한 대가 사용하는 전력이 증가할수록 열관리 기술의 중요성은 더 높아질 수밖에 없다. 엔비디아와 서버업체들이 차세대 제품을 액체냉각을 전제로 설계하기 시작했다는 점은 냉각이 선택 가능한 부가설비에서 AI 인프라의 기본조건으로 이동하고 있음을 보여준다.

AI 산업을 반도체만 보고 따라가면 이 변화의 절반을 놓칠 수 있다. GPU가 더 빠르게 계산하려면 더 많은 전기가 필요하고, 늘어난 전력은 다시 더 많은 열을 만든다. 그리고 그 열을 안정적으로 제거하지 못하면 비싼 GPU도 원하는 성능을 내기 어렵다.