챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자는 지브리 화풍 이미지 생성 수요에 “GPU가 녹아내리고 있다”며 서버 과부하를 우려했다. 이처럼 열을 잡아내기 위한 기술은 선택이 아닌 필수로 자리 잡아가고 있다.
KT클라우드는 차가운 공기로 열을 식히는 ‘공랭식’을 넘어 국내 최초로 액체를 활용한 ‘수랭식’(리퀴드 쿨링) 상용화 데이터센터(DC)를 설립해 해결 방안을 마련했다. 특히 AI DC 인프라와 쇼룸을 결합한 국내 유일 ‘AI 이노베이션 센터’를 열고, 관련 기술 선두 싸움에서 우위를 잡았다는 평가다.
11일 KT클라우드는 서울 양천구 목동에서 AI 이노베이션 센터를 공개했다. 해당 센터는 엔비디아 최신 B200 GPU 장비를 비롯해 AI 서버 랙(Rack), D2C 액체 냉각 장치, AI 네트워크 등 실제 AI 데이터센터와 동일한 환경을 구현했다.
이날 개소식에서 허영만 KT클라우드 DC본부장은 “AI 이노베이션 센터는 국내 최초로 AI DC 인프라에 실제 운영하는 서버와 장비들로 구성돼 현장과 100% 일치하는 환경”이라며 “DC와 AI 산업을 발전시키기 위해 실제 환경에서 기술을 검증함으로써 고객에게 더 많은 가치를 제공하고자 한다”고 말했다.
이날 문을 연 AI 이노베이션 센터 내부는 ‘AI 스튜디오’와 ‘AI 인프라 랩스’로 구성됐다. AI 스튜디오는 일종의 쇼룸으로 KT클라우드의 각 기술 요소들을 시각적으로 형상화해 개념을 순차적으로 파악할 수 있다. 실제로 AI 스튜디오에는 KT클라우드의 AI DC 핵심 기술인 D2C 액체 냉각 장치, 냉각판(콜드플레이트), 이머전 쿨링, 패스파인더 등의 실제 모형이 전시돼 있었다.
가장 먼저 소개된 D2C 액체냉각 시스템은 칩 위에 콜드플레이트를 밀착시킨 뒤 내부에 냉각수를 흘려 열을 간접적으로 제거하는 방식이다. 열 전도율이 높은 콜드플레이트를 통해 효율적인 냉각이 가능하며, 기존 공랭식 대비 전력 소비를 20~30% 절감하는 효율성을 갖췄다고 관계자는 설명했다.
특히 AI 서버를 특수 액체에 직접 담가 열을 식히는 ‘액침 냉각(이머전쿨링)’ 기술의 실제 모형이 눈에 띄었다. 해당 방식은 공랭식, 수랭식과 비교해 열전달 효율이 뛰어나 고발열 AI 서버 환경에 적합한 차세대 냉각 기술로 꼽힌다. KT클라우드는 기술검증(PoC)을 통해 실제 부하 테스트를 진행한 결과, 최대 60%의 전력 절감 효과를 확인했다고 덧붙였다.
AI 인프라 랩스 안에선 서버룸 사이를 오가는 자율주행 로봇을 볼 수 있다. 해당 로봇은 온도·습도·가스 등을 탐지할 수 있는 장비들이 탑재돼 서버룸을 안전하게 관리한다. 해당 로봇은 24시간 동안 사람이 들어가기 위험한 공간을 대신 돌아다니며 시설을 점검한다. KT클라우드는 로봇 등 기술을 활용해 단계적으로 무인화 시스템 구축 완료를 목표로 하고 있다.
허 본부장은 “DC 운영 인력은 60~70명 정도 가용되고 있는데, 앞으로 이를 3분의 1 이하로 줄이는 것을 목표로 하고 있다”며 “우선적으로 무인화를 적용할 수 있는 부분에 대해 업무를 분류하고, 단계적으로 무인화할 수 있도록 시스템을 구축하고 운영하고자 한다”고 설명했다.
현재 16개의 DC를 운영 중인 KT클라우드는 2030년까지 수요 증가에 맞춰 총 320MW(메가와트) 규모의 AI 데이터센터 전력 인프라를 확보한다는 방침이다. 중장기적으로는 500MW 규모의 데이터센터 공급을 계획 중이다.
또, 국내 최초로 액침 냉각 서비스를 상용화한 상업용 DC ‘가산 AI 데이터센터’를 내년 4월 본격적으로 운영할 예정이다.
최지웅 KT 클라우드 대표는 “AI 이노베이션 센터는 단순한 쇼룸이 아니라, 차세대 데이터센터 기술을 실증하고 고객 가치 중심의 AI 인프라를 구현하기 위한 핵심 플랫폼”이라며 “KT 클라우드는 데이터센터 기술 혁신의 새로운 기준을 제시하고 국내 AI 생태계의 성장을 선도할 것”이라고 말했다.
