(위 사진은 25년 10월 현재 기준으로 불과 며칠전 공식적으로 발표된 업계 최초 액체 냉각 eSSD인 Solidigm의 D7-PS1010으로, Wraparound용 Cold Plate와 호스 연결부, 그리고 Hot-Swappable 형태의 디자인을 명확하게 확인할 수 있다!)
몇년 전부터 뉴스를 보면 데이터센터 발열 문제가 많이 언급되고 있음. 근데 이게 과장이 아닌 것이, PCIe Gen5 SSD가 시판되는 시대가 오면서 단일 SSD가 35에서 최대 70W 이상 전력을 소모한다고 알려져 있음.
문제는, 이렇게 고출력 SSD가 늘어나면, 기존의 Air Cooling으로는 발열을 감당하기 어렵다는 것임. 이때 주목받는 해법이 바로 Liquid-cooled SSD (액체 냉각 SSD)임. 처음엔 액체 냉각을 한다길래, 조금 의아하기도 했었음. GPU나 여타 다른 가속기면 모르겠는데, 굳이 SSD에까지 액체 냉각을 한다고? 싶었는데, 올해 FMS에서 Solidigm이 발표한 이 내용을 보아하니, 실제로 필요할 수도 있게다 생각이 듦. 개인적으로 꽤 흥미로운 내용이었는데, 여기에 간단히 소개하고자 함.
Liquid Cooling이 필요한 이유는 다음과 같이 정리해볼 수 있음.
- 고성능 SSD의 전력 소모 증가
- 기존 U.2, M.2 SSD는 보통 10~25W 수준을 소모했지만, 최신 EDSFF SSD는 최대 40W~70W 이상을 소모할 수 있다고 함. 이에 따라, 공기 냉각만으로는 쓰로틀링 같은 현상을 완벽히 피할수 없고, 결국 안정적인 동작을 보장하기 어려움.
- AI 전용 서버의 고밀도 환경
- NVIDIA에서 GB200, Rubin 같은 SOTA GPU를 탑재해 Rack-Scale로 판매하는 SuperPOD 모델 NVL72, NVL144, NVL576은 Rack당 100kW~600kW급 전력을 소비한다고 함. 가장 하이엔드인 576 같은 경우엔 72개 Compute Blade가 들어가는데 600kW급 전력을 쓴다고 알려짐.
- 이때, 이런 플랫폼들 같은 경우엔 GPU, CPU, SSD가 이미 모두 고출력을 내고 있다 보니, Thermal Headroom이 거의 없다고 함. 비유하자면, 7-8월 가장 무더울 땐 바람이 아무리 분들 시원하게 느껴지지 않는 거랑 비슷하게 이해할 수 있음.
- Fan 기반 냉각의 한계
- Fan을 아무리 돌려도 SSD가 서버 전면에 위치하면 (= 특히나 기존 U.2 형태를 생각해보면), 뒤쪽 GPU/CPU로 가는 공기 흐름을 막아버림. 결과적으로 시스템 전체 냉각 효율이 올라가기가 근본적으로 어려움.
액체 냉각은 위와 같은 문제를 해결할 수 있다고 홍보되고 있음. Liquid-Cooled SSD는 PCIe Gen5더라도 35~40W 수준으로 안정적 성능을 보장할 수 있다고 함.
이때, 액체 냉각을 하려고 하면 물리적 공간을 너무 뺐기지 않을까 싶기도 한데, 이건 아래 그림들을 통해 어느 정도 해소됨을 알 수 있음.
위 사진은 인텔 Sapphire Rapids 1U 서버에서 E1.S 15mm 규격 SSD Bay를 갖추고 있는 모습임. 요즘 하이엔드 서버들은 이렇게 EDSFF SSD를 여럿 꽂을 수 있게 나오곤 하는데,...
이렇게 일렬로 Cascading되게 관을 연결해 묶어서 루프를 형성해놓으면 액체가 Cold Plate와 만나면서 열 흡수가 쭉쭉 이뤄진다고 함.
그리고 이상태에서, Hot Swap도 아래 그림처럼 지원할 수 있다고 함.
즉, 요약하면, Liquid-cooled SSD는 발열·밀도·성능 문제를 동시에 해결할 수 있는 잠재력을 갖고 있고, 특히 근래의 AI 플랫폼이나 HPC 환경과 같이 초고밀도·초고출력 워크로드가 많은 곳에서 확실하게 그 Drive를 갖고 있다는 것임. 향후 GPU, CPU와 함께 데이터센터 냉각 패러다임 전환의 핵심 키워드가 될 수 있다고 보임.
본 글에 담긴 Claim격의 서술은 모두 제 개인의 의견일 뿐이며 아무런 대표성을 가지지 않습니다.
