하이퍼스케일 데이터 센터의 규모와 전력이 지속적으로 증가하고 그 존재와 환경적 영향에 대한 광범위한 반발이 발생함에 따라 보다 친환경적인 냉각은 더 이상 선택 사항이 아니라 전제 조건이 되어야 합니다. 이 분야에서는 폐수를 재활용하는 등 많은 진전이 있었습니다. Amazon은 재생수를 사용하여 일부 데이터 센터를 냉각하고 있으며 2030년까지 120개가 넘는 데이터 센터에서 재생 폐수를 사용할 것으로 예상합니다. Google, Meta, Microsoft와 같은 다른 하이퍼스케일러도 향후 몇 년간 물에 대한 긍정적인 약속의 일환으로 다양한 물 프로젝트를 발표했습니다. Nvidia의 새로운 폐쇄 루프 액체 냉각 설계는 데이터 센터 및 AI 산업에 걸려 있는 환경 문제 중 일부를 해결할 수 있습니다.
데이터 센터는 역사적으로 물 증발을 통해 따뜻한 공기를 냉각하기 위해 냉각기와 냉각탑을 결합하는 일종의 개방 루프 증발 냉각 방식을 사용해 왔습니다. 이 방법은 전력 소비를 줄이지만, 보충수를 지속적으로 공급해야 하기 때문에 물 소비가 극도로 커진다는 단점이 있습니다. arXiv에 발표된 보고서에 따르면 증발 냉각에 사용되는 물의 70~80%가 이 과정에서 손실됩니다. 폐쇄 루프 액체 냉각은 지속 가능성이 더 높은 경우가 많지만 데이터 센터의 채택을 지연시키는 다양한 장애물에 직면해 있으며, 칩 직접 냉각 및 2단계 침수 냉각과 같은 최신 기술은 훨씬 더 많은 가능성을 보여줍니다. Microsoft는 이미 Maia 100 플랫폼에서 직접 칩 냉각 및 랙 수준 열 교환기를 사용해 왔으며, 직접 칩 냉각에 대한 미세 유체 접근 방식도 연구하고 있습니다.
Nvidia는 칩에 직접 냉각하는 방식을 채택하여 100% 액체 냉각을 사용하며 물 소비가 없고 팬이 없을 가능성을 강조합니다. 이는 Nvidia의 새로운 AI 서버 플랫폼이 예상보다 훨씬 더 뜨겁게 실행되도록 설계되었기 때문입니다.
45°C의 온수 욕조보다 더 뜨겁게 작동하도록 설계되었습니다.
Nvidia의 새로운 액체 냉각 설계는 Nvidia 기술 제품군을 기반으로 구축된 인프라를 개략적으로 설명하는 참조 AI 공장 설계인 회사의 DSX AI 플랫폼의 일부입니다. DSX 플랫폼 내에서 직접 칩 냉각을 위한 Nvidia의 방법론은 DSX MaxLPS의 일부입니다. DSX MaxLPS는 그 자체로 와트당 성능을 중심으로 설계된 소수의 기술이며 다양한 전력 예산에 걸쳐 컴퓨팅을 극대화합니다.
Nvidia의 폐쇄 루프 직접 칩 냉각은 냉각수 온도가 45°C인 75% 물과 25% 프로필렌 글리콜의 냉각수 혼합물을 중심으로 설계되었으며 시스템의 입구 온도는 45°C, 출구 온도는 55°C입니다. 액체가 랙에서 나오면 열 부하를 배출하는 실외 패시브 라디에이터로 파이프로 연결됩니다. 따뜻한 물에서 실행되는 루프를 사용하면 데이터 센터는 이론적으로 냉각기나 냉각탑과 같은 기계적 냉각에 의존하지 않아도 됩니다. 이는 또한 따뜻한 물과 외부 대기 사이의 온도 차이가 패시브 라디에이터가 이를 배출할 만큼 극단적이지 않다는 것을 의미하지만, Nvidia는 이것이 지리적으로 의존적일 수 있다는 점을 염두에 두고 있습니다. 예를 들어, 여름 기온이 정기적으로 세 자릿수까지 올라갈 수 있는 애리조나에서는 여전히 냉각기가 필요합니다.
이 설계에는 또한 액체가 GPU와 CPU뿐만 아니라 5,000A의 연속 전류 정격을 지닌 NVLink 스위치, 광학 모듈 및 전원 버스 바를 통과할 수 있도록 하는 모놀리식 냉각판이 통합되어 있습니다. 폐쇄 루프는 한 번 채워지도록 설계되었으며 Nvidia는 시설의 수명 동안 지속될 것이라고 주장합니다. 이는 확실히 대담한 주장이며 데이터 센터 및 물 공급 간섭에 대한 우려를 완화할 수도 있고 그렇지 않을 수도 있습니다.
엔비디아의 새로운 디자인은 필수, 누구도 거론하지 않는 물
Nvidia가 100% 액체 냉각으로 전환하는 것은 자원 관리의 문제일 뿐만 아니라 필수적인 문제이기도 합니다. Nvidia의 이전 Grace Blackwell 플랫폼은 이미 GPU에 액체 냉각을 사용했지만 CPU 및 기타 구성 요소는 공기 냉각에 의존했습니다. Nvidia의 Vera Rubin 아키텍처는 전력 한계를 다른 크기로 끌어올립니다. 하나의 Rubin GPU는 최대 2,300와트를 사용하여 기존 GB300 GPU에 비해 TDP가 64% 증가합니다. 72개의 Rubin GPU와 36개의 Vera CPU와 기타 랙 하드웨어(스위치, 광학 모듈 등)로 구성된 Vera Rubin NVL72 랙은 200kW를 초과합니다. 이는 공기가 냉각할 수 있는 수준을 훨씬 뛰어넘는 수준입니다.
냉각 타워가 있는 데이터 센터는 연간 메가와트당 약 260만 갤런의 물을 사용하므로 물이 거의 없다고 주장하는 Nvidia의 설계를 액면 그대로 받아들여서도 안 되지만 무시해서도 안 됩니다. 그러나 데이터 센터의 현장 물 사용량이 전체 그림을 그리는 것은 아니기 때문에 이는 방정식의 일부일 뿐입니다. AI의 물 문제는 데이터 센터를 넘어 발전소까지 확장됩니다. 미국 지질 조사국(US Geological Survey)에 따르면 미국 기반의 화석 연료 발전소는 하루에 약 27억 갤런의 물을 소비합니다. 국제에너지기구(IEA)는 석탄 및 천연가스 발전소가 2030년까지 데이터센터에서 증가하는 전력 수요의 40%를 공급할 것으로 추정하고 있다.
이는 데이터 센터에서 일반적으로 물 발자국으로 계산되지 않는 많은 양의 물이 데이터 센터에서 사용된다는 것을 의미합니다. AI가 사용하는 물의 양을 정량화하려는 많은 추정치 역시 일반적으로 발전량을 고려하지 않습니다. Nvidia의 완전한 액체 냉각은 시설 수준에서 물 사용량을 줄일 수 있지만 데이터 센터 외부에서는 여전히 해야 할 일이 많습니다.
