AI 서버의 전력 밀도가 높아지면서 냉각 설비는 시설 구성을 좌우하는 요소가 됐다. 냉각에 쓰는 물의 온도가 달라지면 서버실 밖의 전력과 용수 조건도 함께 달라진다.
온천물로 식히는 서버
NVIDIA의 Rubin 서버에는 45°C 냉각수가 들어가 약 55°C로 나오는데, 온천수만큼 뜨거운 물인데도 칩은 콜드플레이트가 열을 곧바로 물에 전달해 정상적으로 작동한다. 냉각수를 반드시 차게 유지해야 할까. 기존 방식과는 다르다. NVIDIA는 45°C 냉각수 입구 온도에서도 성능이 떨어지지 않는다고 설명한다.
그 덕분에 Rubin 방식은 칠러(냉매를 압축해 냉각수를 외기보다 낮은 온도로 식히는 기계식 냉동 설비) 사용을 크게 줄인다. 18°C 냉각수는 여름철 외기보다 차가워 다시 식혀야 하지만, 45°C 냉각수는 드라이쿨러(냉매 압축이나 물 증발 없이 외기와 직접 열교환하는 장치)만으로도 열을 내보낼 수 있어 칠러 부담이 줄고, 칠러 설정 온도를 1°C 높이면 냉각비가 약 4% 줄어드는 만큼 효과가 크다. 완전히 새로운 기술은 아니어서, 독일의 슈퍼컴퓨터 SuperMUC도 2012년부터 최대 40°C 냉각수를 써 전력 사용량을 40% 줄이고 연간 약 100만 유로를 절감했다. NVIDIA는 Rubin을 이 방식을 도입한 첫 상용 AI 서버 냉각 인프라라고 밝힌다.
팬을 없앤 구조
Rubin은 GPU와 CPU뿐 아니라 네트워크 장치와 전원부까지 액체로 식히며, 덕분에 시스템 팬과 공기 통로, 대형 히트싱크가 필요 없다. 기존에 6랙유닛을 차지하던 구성을 2랙유닛에 담아 같은 공간에 더 많은 연산 장치를 넣을 수 있고, 팬 소음과 전력 소비도 함께 줄어든다.
대신 관리 대상이 공기에서 액체로 바뀌어, 운영자는 냉각수의 수질과 부식, 누수, 배관 재질을 꾸준히 관리해야 한다. 냉각 능력도 CDU(냉각수 분배 장치)와 열교환기, 펌프, 드라이쿨러의 용량에 따라 달라진다. 필요한 유량과 펌프 동력은 수온뿐 아니라 열부하와 입, 출구 온도차, 유로 저항, 콜드플레이트 성능에 따라 달라지며, 칠러에서 아낀 비용이 펌프 비용으로 상쇄되는 경우도 있다. 게다가 공랭 장비가 남아 있는 기존 데이터센터라면 칠러를 완전히 없애기도 어렵다.
재활용되는 폐열
폐쇄 루프에 드라이쿨러를 더한 방식은 물 사용량도 줄인다. 기존 냉각탑은 물을 증발시켜 열을 버리지만, 이 방식은 냉각수를 계속 순환시킬 뿐 증발시키지 않는다. 적합한 기후의 50MW 시설이라면 연간 약 1억3천만 갤런의 물과 400만 달러 이상의 냉각 비용을 아낄 수 있다. 가뭄 지역에서는 비용뿐 아니라 인허가와 주민 수용성에도 중요한 변화다.
한편 뜨거워진 냉각수는 그저 버릴 열일까. 난방 자원이 될 수도 있다. 공랭 서버가 내보내는 미지근한 공기와 달리, 50~60°C의 물은 배관을 통해 옮겨 저온 지역난방에 활용하기 쉽다.
- 덴마크 오덴세에서는 Meta 데이터센터의 폐열로 약 45MW의 열을 공급한다. 1만2천 가구가 쓸 수 있는 양이다.
- Microsoft 역시 회예-타스트럽에서 약 6천 가구에 난방열을 공급하는 사업을 추진했다.
다만 난방 수요처가 멀면 배관과 펌프 비용이 커져 경제성이 떨어진다.
데이터센터의 입지가 달라진다
같은 서버를 써도 냉각비는 지역에 따라 달라져, 외기가 차가운 북유럽은 대부분의 시간을 드라이쿨러만으로 운영할 수 있다. 반면 북버지니아나 뉴저지, 피닉스처럼 여름이 더운 곳은 일정 기간 칠러를 병행해야 하며, NVIDIA도 기후에 따라 연중 약 1%는 칠러가 필요할 수 있다고 본다.
이처럼 기후에 따라 냉각 운영이 갈리니 입지를 정하는 기준도 복잡해진다. 사막은 폐쇄 루프로 물을 아낄 수 있지만 폐열을 살 지역난방 사업자가 드물다. 북유럽 도시는 냉각과 폐열 판매에 유리하지만 부지와 송전 용량이 부족하다. 시설 형태도 변수여서, 전용 신축 캠퍼스는 전체 설비를 45°C 규격에 맞추면 되지만 여러 고객의 장비가 섞인 콜로케이션 센터는 기존 공조 설비를 남겨야 한다.
결국 Rubin의 경쟁력은 칩 성능만으로 결정될까. 전력망과 기후, 물, 배관망, 폐열 수요까지 맞아떨어져야 운영비를 제대로 낮출 수 있다. AI 데이터센터 경쟁은 이제 서버 구매를 넘어 도시와 에너지 인프라를 설계하는 문제로 넓어지고 있다.
이에 따라 냉각 기술이 달라지면 서버 제조사와 시설 운영자가 함께 검토할 범위도 달라진다. 장비 도입을 판단하는 기준에는 칩의 사양뿐 아니라 시설이 감당할 수 있는 냉각 조건도 포함될 가능성이 크다.