엔비디아가 데이터센터의 물 사용을 크게 줄일 수 있는 새 냉각 시스템을 발표했다. 방식은 꽤 흥미롭다. 45°C의 따뜻한 냉각수를 서버 랙으로 보내고, 칩의 열을 받아 55°C가 된 물을 다시 빼낸다. 폐쇄 루프라 한 번 채운 물을 시설 수명 동안 계속 돌릴 수 있고, 기후 조건이 맞으면 칩 냉각에 새 물을 거의 쓰지 않을 수 있다는 설명이다.
이 자체는 분명 의미 있는 기술이다. 물을 증발시켜 열을 빼는 기존 냉각 방식에 비해 물 소비를 줄이고, 팬이나 칠러를 덜 쓰면 전력 효율과 소음 문제도 함께 줄어들 수 있다. 데이터센터 운영자 입장에서는 비용과 환경 부담을 동시에 낮출 수 있는 개선이다.
하지만 TechCrunch가 짚은 쟁점은 엔비디아가 어디까지를 계산에 넣느냐다. 데이터센터 벽 안쪽만 보면 물 사용량이 거의 사라진 것처럼 보일 수 있다. 그러나 전기를 만드는 발전소와 칩 제조까지 포함하면 전체 물 발자국은 두세 배로 커질 수 있다. 이 경우 새 냉각 시스템이 다루는 영역은 AI 데이터센터 물 사용의 약 1/4에서 1/3 정도에 그친다.
전력원의 차이는 특히 크다. 기사에 따르면 천연가스 발전은 kWh당 1.17L, 석탄 발전은 2.2L의 물을 쓴다. 미국 화석연료 발전소는 하루 27억 갤런의 물을 소비한다. 수력도 저수지 증발까지 보면 kWh당 6.8L가 사라진다. 반면 풍력과 태양광은 각각 0.01L, 0.03L 수준이다. AI 데이터센터 수요 증가분의 40% 이상을 2030년까지 가스와 석탄이 맡을 수 있다는 IEA 전망을 함께 보면, 냉각 기술만으로는 충분하지 않다.
그래서 이 뉴스는 로컬 우선 AI 작업대라는 관점과도 맞닿아 있다. 모든 추론을 원격 데이터센터로 보내는 대신, 가능한 작업은 노트북이나 사내 장비에서 처리하고 무거운 작업만 클라우드로 보내는 구조는 비용뿐 아니라 물과 전력의 실제 부담을 줄이는 설계가 될 수 있다. 물론 로컬 AI가 자동으로 더 친환경이라는 뜻은 아니다. 기기 제조, 전력원, 모델 크기, 사용 빈도까지 따져야 한다.
엔비디아의 냉각 기술은 좋은 조각이다. 다만 AI의 물 문제는 서버 랙 안의 배관만 바꾼다고 끝나지 않는다. 어떤 전력망에서 돌리는지, 어떤 발전원이 그 전기를 만드는지, 워크로드를 어디에 배치하는지가 함께 계산돼야 한다.