AI 데이터 센터의 딜레마…구형 가속기는 전기 먹는 애물단지 된다? [고든 정의 TECH+]

thumbnail - 블랙웰 대비 베라 루빈의 전력 소모 당 토큰 생성량. 엔비디아 제공
블랙웰 대비 베라 루빈의 전력 소모 당 토큰 생성량. 엔비디아 제공


최근 블룸버그는 소식통을 인용해 마이크로소프트가 오라클과의 계약 갱신을 중단하고 구형 인공지능(AI) 가속기를 더 이상 임대하지 않는 방향으로 결정했다고 보도했습니다. 몇 년 전 마이크로소프트는 AI 가속기에 대한 수요가 자체 인프라를 넘어서자 오라클 클라우드 인프라(OCI)에서 컴퓨팅 리소스를 임대하기로 했던 적이 있습니다.

그런데 그동안 마이크로소프트는 대규모 AI 데이터 센터 인프라를 구축했고, 과거 임대한 하드웨어는 구식이 됐습니다. 따라서 구형 하드웨어에 대한 임대를 중단한다는 소식은 의외의 결정은 아니라고 할 수 있습니다. 정확한 그래픽처리장치(GPU) 종류와 수량은 공개하지 않았지만, 아마도 ‘A100’ 같은 오래된 가속기일 가능성이 높아 보입니다.

다만 오라클은 노후화된 AI 하드웨어가 상업적으로 더 이상 수익성이 없다는 주장에 반박하며, 자사 인프라에 대한 수요는 여전히 강하다고 주장했습니다. 예를 들어 오라클은 2027 회계연도 1분기 동안 갱신 예정인 GPU 용량을 기존 계약 가격보다 20% 높은 프리미엄으로 갱신하거나 재판매했다고 밝혔습니다. 그리고 같은 기간 GPU 활용률이 약 97.9%에 달했다고 보고했습니다.

하지만 이번 소식은 AI 데이터 센터 투자의 새로운 위험성을 보여주고 있어 주목됩니다. 바로 과거 비싼 비용을 들여 구매한 하드웨어가 몇 년 후 구형이 되어 잔존 가치가 생각보다 빠르게 하락할 가능성입니다.

현재 AI GPU를 만드는 엔비디아나 AMD 모두 자사의 가속기가 와트당 성능비가 비약적으로 커지고 있다고 홍보해 왔습니다. 예를 들어 베라 루빈 NVL 72는 이전 세대와 비교해 최대 10배의 와트당 토큰 생성 능력을 지니고 있습니다. AMD는 내년에 나올 인스팅트 MI500의 성능이 MI300 시리즈보다 1,000배나 높아질 것이라고 주장하고 있는데, 사실이라면 4년 만에 1000배 정도 성능이 높아지는 것입니다.

thumbnail - AMD 제공
AMD 제공


물론 여기에는 일부 과장이 들어가 있습니다. 하지만 그럼에도 실제로 성능이 빠르게 높아지고 있다는 점은 분명합니다. 그런데 역설적으로 기술이 이렇게 발전하면 이전에 나온 구형 AI 가속기의 가치는 크게 떨어질 수밖에 없습니다. 특히 최근 AI발 전력 소모가 늘어나면서 전기료가 상승하고 있고 이로 인해 갈등까지 빚어지는 상황에서 같은 전력을 사용해도 토큰 생성량이 떨어지는 구형 가속기의 인기는 더 떨어질 수밖에 없는 상황입니다. 일반적으로 데이터센터 전체 운영 비용의 약 40~60%가 전기료 및 전력 관련 비용으로 알려져 있습니다.

따라서 현재 엄청난 비용을 지불하고 건설 중인 AI 데이터 센터들이 몇 년 후 비용을 과연 회수할 수 있을지에 대한 의구심이 커지는 것은 당연합니다. 오라클은 막대한 인프라 확장과 상당한 자금 조달 약정으로 인해 이러한 문제에 특히 취약합니다. 최근 분기별 실적 발표에 따르면 오라클은 클라우드 인프라 매출이 전년 대비 121% 급증한 74억 달러를 기록했음에도 불구하고 2027 회계연도 1분기에 50억 달러의 마이너스 잉여현금흐름을 기록했습니다.

이런 의구심을 해소하기 위해서는 결국 AI가 수익을 낼 수 있다는 점을 입증해야 할 필요가 있습니다. AI 인프라에 투자하는 기업들이 수익성이 좋아서 구형 하드웨어 감가상각이 빠르게 일어나도 충분히 만회할 수 있다는 점을 보여야 하는 것입니다. AI 투자 초기의 열광은 점차 가라앉는 중이고 이제 시장은 냉정하게 누가 수익을 낼 수 있는지를 보고 있습니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com
Popular News
Latest Shorts
기자 PICK 글로벌 뉴스
TWIG 연예·이슈·라이프
서울 En 방송·연예