AI 모델이 커질수록 데이터센터가 더 많이 필요해지는 이유

연산량 증가와 GPU 서버 확산이 전력과 시설 부담 확대

생성형 인공지능 기술 확산이 데이터센터 산업 구조를 바꾸고 있다. 대형 언어 모델이라 불리는 LLM(Large Language Model, 대규모 언어 모델)이 등장하면서 기업들은 더 많은 연산 자원을 요구하게 됐다. 모델 규모가 커질수록 필요한 컴퓨팅 자원이 늘어나기 때문이다. 이 과정에서 데이터센터가 인공지능 산업을 지탱하는 시설로 떠오르고 있다.

인공지능 모델은 수많은 매개변수로 구성된다. 매개변수는 모델이 데이터를 학습하면서 조정하는 값이다. 초기 인공지능 모델은 수백만 개 수준의 매개변수를 사용했다. 최근 등장한 대형 언어 모델은 수십억 개에서 수천억 개 수준의 매개변수를 사용한다. 매개변수가 늘어날수록 계산해야 하는 연산량이 급격히 증가한다. 이러한 연산을 처리하기 위해서는 고성능 컴퓨팅 장비가 필요하다.

이때 사용되는 장비가 GPU다. GPU는 Graphics Processing Unit의 약자로 그래픽 처리 장치를 의미한다. 원래는 컴퓨터 그래픽을 처리하기 위해 개발된 장치다. 많은 연산을 동시에 처리하는 구조 덕분에 인공지능 학습에 적합한 장비로 사용된다. 인공지능 기업은 수천 개 이상의 GPU를 연결해 하나의 거대한 연산 시스템을 만든다. 이러한 구조를 GPU 클러스터라고 부른다.

GPU 클러스터는 일반 서버 환경보다 훨씬 큰 시설을 요구한다. 인공지능 모델 학습은 여러 장비가 동시에 동일한 작업을 처리하는 병렬 처리 방식으로 진행된다. 병렬 처리는 여러 장비가 같은 계산을 나누어 수행하는 구조다. 이 방식은 학습 속도를 높이는 장점이 있다. 대신 수천 개의 GPU 서버가 동시에 동작해야 한다. 이를 수용하기 위해 데이터센터 규모도 함께 커진다.

전력 문제도 데이터센터 확장에 영향을 준다. 인공지능 서버는 일반 서버보다 훨씬 많은 전력을 사용한다. CPU 기반 서버는 약 600와트에서 750와트 정도의 전력을 사용한다. CPU는 Central Processing Unit의 약자로 컴퓨터의 중앙 처리 장치를 의미한다. 반면 인공지능용 GPU는 하나당 약 700와트에서 1200와트 수준의 전력을 소비한다. 여러 개의 GPU가 장착된 서버는 소비 전력이 크게 증가한다.

서버 랙 단위로 보면 차이가 더 뚜렷하다. 랙은 서버를 여러 대 설치하는 장비 구조를 의미한다. 일반 데이터센터 랙은 약 5킬로와트에서 15킬로와트 수준의 전력을 사용한다. 인공지능 서버가 들어간 랙은 40킬로와트에서 60킬로와트 이상 전력을 요구하는 경우도 있다. 전력 밀도가 크게 높아지는 것이다.

전력 사용량이 증가하면 발열 문제도 발생한다. 서버는 연산 과정에서 열을 발생시킨다. 열이 축적되면 장비 성능이 떨어질 수 있다. 따라서 데이터센터에는 냉각 설비가 필요하다. 인공지능 데이터센터는 기존 시설보다 강력한 냉각 시스템을 요구한다. 공기 냉각 방식 외에 액체 냉각 방식이 도입되는 사례도 늘고 있다. 액체 냉각은 냉각용 액체를 사용해 서버 열을 직접 제거하는 방식이다.

데이터 처리 규모 증가도 데이터센터 확장 요인이다. 인공지능 모델을 학습하려면 대규모 데이터가 필요하다. 텍스트, 이미지, 영상, 음성 등 다양한 데이터가 사용된다. 이러한 데이터를 저장하고 전송하기 위해 대용량 저장 장치와 고속 네트워크가 필요하다. 데이터 이동 속도 역시 모델 학습 속도에 영향을 준다. 따라서 데이터센터 내부 네트워크도 점점 더 높은 속도를 요구한다.

AI 서비스 운영도 데이터센터 수요를 늘리고 있다. 모델 학습이 끝난 뒤에도 서비스 제공을 위해 지속적인 연산이 필요하다. 사용자가 질문을 입력하면 모델은 즉시 계산을 수행해 답을 생성한다. 이러한 과정은 데이터센터 서버에서 이루어진다. 사용자가 늘어날수록 서버 수 역시 증가한다.

산업 전반에서 인공지능 활용이 확대되면서 데이터센터 전력 소비도 빠르게 증가하고 있다. 여러 연구 기관은 향후 데이터센터 전력 사용량이 크게 늘어날 것으로 전망하고 있다. 기업들은 대규모 데이터센터 건설을 추진하고 있다. 클라우드 기업은 인공지능 연산을 처리하기 위한 전용 데이터센터를 구축하고 있다. 클라우드는 인터넷을 통해 서버와 저장 공간을 제공하는 서비스다.

반도체 기업도 이러한 흐름 속에서 성장하고 있다. GPU 생산 기업은 인공지능 시장 확대와 함께 매출이 증가하고 있다. 데이터센터 장비 기업 역시 네트워크 장비와 서버 공급을 확대하고 있다. 인공지능 산업은 단순한 소프트웨어 영역을 넘어 전력, 반도체, 데이터센터 산업까지 영향을 미치고 있다.

모델 규모 확대는 앞으로도 계속될 가능성이 있다. 기업은 더 높은 성능을 가진 인공지능을 개발하기 위해 더 많은 데이터를 사용하고 더 큰 모델을 구축한다. 이 과정에서 필요한 연산 자원도 함께 증가한다. 데이터센터는 이러한 연산을 처리하는 물리적 공간이다. 인공지능 기술 확산은 데이터센터 산업의 성장과 직결된 흐름으로 이어지고 있다.