메모리 슈퍼사이클 2028년까지…인텔 CEO “내년 공급난 더 심각”

립부 탄(Lip-Bu Tan) 인텔 최고경영자(CEO)가 “메모리 부족은 내년에 더 심각해질 것”이라며 AI뿐 아니라 스마트폰과 PC 등 정보기술 산업 전반에 영향을 미칠 수 있다고 경고했다. 메모리 못 구해 사업 지연되고 있는 사례가 속출하고 있으며 심지어 저가 IT기기 원가의 70~80%를 차지할 정도로 공급 부족 현상이 심각하다는 것이다.

탄 CEO는 15일(현지시각) 미국 캘리포니아주 산타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026(AI Infra Summit 2026)’ 기조연설에서 연산을 담당하는 GPU보다 데이터를 저장하고 공급하는 메모리가 전체 시스템의 성능과 비용을 본격적으로 제약하기 시작했다고 밝혔다.

탄 CEO는 “메모리 생산능력이 매우 제한돼 있다”며 “충분한 메모리를 확보하지 못해 사업이 늦어지는 기업이 많다”고 말했다. 이어 "메모리 가격이 품목에 따라 5~7배까지 올랐다"고 전했다.

가격 상승은 AI 데이터센터에만 국한된 문제가 아니다. 탄 CEO는 "저가 스마트폰이나 노트북을 생산할 경우 메모리가 전체 제품 원가에서 차지하는 비중이 70~80%까지 높아질 수 있다"고 지적했다.

AI 인프라 서밋은 이달 15일부터 17일까지 사흘간 열리며 컴퓨트, 데이터와 모델, 데이터 이동, AI 데이터센터, 피지컬 AI를 중심으로 AI 인프라의 기술과 투자 방향을 다룬다.

탄 CEO는 메모리 부족이 하나의 부품에 국한된 문제가 아니라고 강조했다. 메모리를 더 많이 장착하고 더 빠르게 작동시키려면 전력과 고속 연결, 첨단 패키징, 냉각 기술이 함께 발전해야 하기 때문.

그는 “모두가 알고 있는 또 다른 문제는 전력”이라며 “전력을 확보하는 것뿐 아니라 특정 애플리케이션의 소비전력을 낮출 수 있도록 아키텍처를 설계하는 것이 중요하다. 고속 연결도 중요해지고 있으며 이제 광통신이 핵심으로 부상하고 있다. 냉각 역시 큰 문제다.”고 말했다.

그는 고속 인터커넥트와 광통신, 액체냉각과 마이크로플루이딕(Microfluidic, 미세유체) 냉각을 차세대 AI 인프라의 유망 분야로 꼽았다.

그는 “다음 세대 AI로 갈수록 CPU를 중심으로 HBM과 모든 고속 입출력 장치를 연결하는 거대한 패키지가 필요하다. 패키지 기판 공급도 매우 제한돼 있다고 지적했다. 주요 공급사가 일본과 대만의 네 곳 정도에 집중돼 있어 고객에게 필요한 생산능력을 확보하는 것 자체가 과제가 됐다는 설명이다.

데이브 패터슨(Dave Patterson) 구글 펠로도 AI 인프라의 가장 큰 병목으로 '메모리'를 지목했다. 심지어 메모리 공급부족(쇼티지)가 향후 5년간 지속될 수 있다고 예측했다.

패터슨은 “과거에는 DRAM 용량이 약 3년마다 네 배씩 증가하는 놀라운 발전이 수십 년간 이어졌지만 이제는 완전히 사라졌다”며 “HBM이 뛰어난 메모리 대역폭을 제공하고 있음에도 오늘날 컴퓨팅의 많은 과제는 여전히 메모리에서 발생한다”고 지적했다. 그는 “향후 5년 동안 메모리가 매우 큰 관심의 대상이 될 것이다”고 강조했다.

HBM과 첨단 패키징의 발전으로 프로세서와 메모리 사이의 데이터 전송 속도는 크게 높아졌지만, 필요한 데이터를 담아두는 DRAM 용량의 증가 속도는 과거보다 현저히 느려졌다는 것이다.

패터슨은 컴퓨터 구조 분야의 세계적 석학으로, 존 헤네시와 함께 축소명령어집합컴퓨터(RISC) 아키텍처 발전에 기여한 공로로 2017년 튜링상을 받은 이 분야 '거장'이다.

메모리 용량과 대역폭, 데이터 이동을 둘러싼 구조적 문제가 중장기 AI 인프라 경쟁의 핵심이자 병목이 될 것이라는 뜻으로 해석된다. 패터슨도 '메모리'에 이은 AI 인프라 병목으로 전력, 인터커넥트 순으로 답했다.

메모리 제조사들의 전망도 립부 탄 CEO와 데이브 패터슨 구글 펠로의 전망을 뒷받침한다.

삼성전자는 지난 2분기 실적 발표에서 AI 인프라 투자와 에이전틱 AI 확산으로 서버 DRAM, 기업용 SSD, HBM 수요 증가세가 빨라질 것으로 내다봤다. 삼성전자는 "시장 전반의 공급 부족이 계속될 것이며, 생산 확대에도 공급 제약이 이어질 수 있다"고 밝혔다.

SK하이닉스도 2분기 실적 발표에서 "고객 수요가 공급능력을 웃도는 상황이다"고 진단한 바 있다. 원하는 물량을 제때 공급하는 능력 자체가 메모리 업체의 핵심 경쟁력이 됐다는 설명이다.

하지만 AI 인프라 서밋에서 만난 전문가들은 메모리 문제가 단기간에 끝나지 않을 것으로 내다봤다. 공장을 늘리면 해결되는 단순한 공급 부족이 아니기 때문이다.

메모리 부족 현상은 문제는 '시장 병목'과 '구조적 병목'으로 나뉜다.

우선 시장 병목. 당장 HBM과 첨단 DRAM의 물량이 부족하다. 삼성전자와 SK하이닉스를 비롯해 일본·대만·중국 업체들이 생산능력 확대에 나선 만큼 2028년 이후에는 공급 부족이 일부 완화될 수 있다. 그러나 이것이 AI 시스템의 메모리 병목까지 사라진다는 뜻은 아니다.

AI가 메모리를 소비하는 속도가 공급업체의 증설 속도를 앞서고 있어서다. 대형 모델은 더 많은 매개변수와 데이터를 저장해야 하고, 에이전틱 AI는 여러 모델과 도구를 반복해서 호출하며 긴 컨텍스트와 작업 상태를 유지한다. 모델이 커지는 데 더해 추론 횟수와 동시 사용자까지 늘어나면서 필요한 메모리 총량이 가파르게 증가하고 있다.

반면 HBM은 일반 DRAM처럼 생산량을 빠르게 늘리기 어렵다. 높은 수율을 확보해야 하고, 첨단 패키징과 발열 관리 기술도 함께 뒷받침돼야 한다. 메모리 칩뿐 아니라 패키지 기판과 생산장비, 냉각 시스템까지 공급망 전체가 동시에 확장돼야 한다.

차세대 HBM4가 이전 세대보다 두 배 이상 넓은 인터페이스와 높은 대역폭을 제공하도록 설계된 것도 폭증하는 데이터 이동 수요를 감당하기 위해서다.

더 근본적인 문제는 생산량 너머 '구조적 병목'에 있다. 데이브 패터슨 구글 펠로는 AI 시대의 메모리 병목을 용량과 대역폭 사이의 미스매치로 설명했다.

HBM과 첨단 패키징의 발전으로 프로세서와 메모리 사이의 데이터 전송 속도는 크게 높아졌지만, AI 모델과 작업 데이터를 담아두는 DRAM 용량의 증가 속도는 과거보다 현저히 느려졌다는 것이다.

패터슨은 “과거에는 DRAM 용량이 약 3년마다 네 배씩 증가하는 놀라운 발전이 수십 년간 이어졌지만 이제는 완전히 사라졌다”며 “HBM이 뛰어난 메모리 대역폭을 제공하고 있음에도 오늘날 컴퓨팅의 많은 과제는 여전히 메모리에서 발생한다”고 말했다.

HBM과 첨단 패키징의 발전으로 프로세서와 메모리 사이의 데이터 전송 속도는 크게 높아졌지만, AI 모델과 작업 데이터를 담아두는 DRAM 용량의 증가 속도는 과거보다 현저히 느려졌다.

메모리를 더 많이 생산하는 것과 AI 시스템이 요구하는 용량과 속도를 충족하는 것은 다른 문제다. HBM 공급난이 완화되더라도 용량과 대역폭, 데이터 이동을 둘러싼 구조적 병목은 계속될 수 있다. 패터슨이 향후 5년간 메모리를 AI 인프라 업계의 핵심 투자·연구 대상으로 지목한 이유다.

이번 메모리 사이클은 PC나 스마트폰의 교체 주기에 따라 수요와 가격이 움직였던 과거의 반도체 사이클과도 성격이 다르다. 이제 메모리 수요를 결정하는 것은 완제품 판매량만이 아니다. AI 모델의 크기와 추론량, 컨텍스트 길이, 에이전트의 작업 시간과 동시 사용량이 새로운 수요 변수가 됐다.

병목의 위치도 계속 이동한다. 지금은 HBM 물량이 문제지만 생산량이 늘어나면 용량과 대역폭이 부각된다. 이를 개선하면 첨단 패키징과 데이터 이동이, 다시 전력과 냉각이 다음 제약으로 등장한다. 어느 한 부품만 증설해서는 AI 인프라 전체의 성능과 비용 문제를 해결할 수 없는 구조다.

메모리 공급 부족은 반도체 업황의 단기 호재에 그치지 않는다. AI 인프라의 경쟁 단위가 GPU 한 개에서 CPU·가속기·메모리·패키징·네트워크·전력·냉각을 결합한 시스템 전체로 확대되고 있다는 신호다.

메모리가 첫 번째 병목이라면 전력과 연결, 냉각은 이를 해결하는 순간 차례로 모습을 드러낼 다음 병목이다.

AI 인프라 전쟁의 승자는 가장 강력한 칩을 가진 기업이 아니라, 끊임없이 이동하는 병목을 시스템 전체에서 먼저 해결하는 기업이 될 가능성이 크다.

현재의 메모리 슈퍼사이클은 2023년 업황 바닥을 지나 2024년 HBM 수요가 급증하면서 시작됐다.

초기에는 엔비디아의 AI 가속기에 들어가는 HBM3와 HBM3E가 회복을 이끌었다. 2025년부터는 AI 데이터센터 투자가 확대되면서 서버 DRAM과 기업용 SSD로 수요가 확산됐고, 2026년에는 HBM에 생산능력이 우선 배정되면서 PC와 스마트폰용 범용 DRAM 공급까지 줄어드는 단계로 넘어왔다.

이번 사이클은 PC와 스마트폰의 교체 수요가 이끌었던 과거의 메모리 호황과 다르다. AI 투자가 모델 훈련에서 추론과 에이전트로 확산하면서 메모리 소비가 일회성 설비투자가 아니라 지속적인 사용량 증가와 연결되고 있기 때문이다.

이 때문에 적어도 2027년까지는 HBM과 서버 DRAM, 기업용 SSD가 이끄는 메모리 호황이 이어질 가능성이 크다는 것이 컨센서스다.

분기점은 2028년 전후다. 삼성전자와 SK하이닉스, 마이크론의 증설 물량이 한꺼번에 시장에 들어오고 AI 데이터센터 투자가 둔화하면 물량 부족과 가격 상승세가 완화될 수 있다. 반대로 에이전틱 AI와 장기 추론, 피지컬 AI가 예상보다 빠르게 확산하면 늘어난 생산량을 새로운 수요가 다시 흡수할 수 있다.

AI 인프라 서밋에서는 '메모리 슈퍼사이클'을 시장과 구조적 원인으로 분석하고 전망했다.

이번 슈퍼사이클을 '가격'으로만 봐서는 전망할 수 없다. 메모리 수요 공급이 'AI 시스템'으로 옮겨가는 흐름이 나타나고 있기 때문이다.

단기적으로는 공급자가 가격을 결정하지만, 증설 효과가 나타나는 순간부터는 수율과 전력효율, 첨단 패키징, 고객 구성과 장기계약이 이익을 가르게 된다. 슈퍼사이클이 계속되더라도 모든 메모리와 모든 제조사가 같은 수혜를 보는 것은 아니다. 지금은 메모리 수요와 동조화 돼 있는 SK하이닉스와 삼성전자의 주가도 양사의 대응에 따라 희비가 엇갈릴 수 있다.

이번 메모리 슈퍼사이클은 끝나기보다 진화할 가능성이 크다. HBM 물량 부족에서 시작된 호황이 앞으로는 용량과 대역폭, 전력효율과 패키징을 둘러싼 ‘AI 시스템 슈퍼사이클’로 이동하고 있기 때문이다.

장기적으로는 HBM 생산량보다 메모리를 AI 시스템에 어떻게 배치하고 연결하느냐가 더 중요해진다. 메모리 업체가 단순 공급자에 머무르면 가격 상승기의 이익은 얻을 수 있지만, AI 인프라의 구조를 결정하는 주도권은 가속기와 패키징, 플랫폼 기업에 넘어갈 수 있다.

삼성전자와 SK하이닉스가 확보해야 할 것은 HBM 시장점유율만이 아니다. CPU와 가속기, 네트워크, 소프트웨어 기업과 공동으로 시스템을 설계하는 능력을 이어 AI 시스템 슈퍼사이클로 이어가야 한다. 엔비디아와 인텔도 단일 칩 성능보다 CPU, GPU, xPU, 메모리, 전력, 네트워크를 모두 연결한 '시스템' 성능 향상에 올인하고 있다.

이에 따라 메모리와 파운드리, 패키징, 서버, 냉각, 전력을 연결해 고객의 토큰당 비용을 낮추는 시스템 제안이 필요하다.

👉 한국 정부는 GPU 구매지원에서 ‘토털 AI 인프라 전략’으로 전환해야 한다.

현재 정부의 AI 인프라 정책은 GPU 확보량을 늘리고 데이터센터 건설 규모에만 집중돼 있는 것이 사실. 메모리와 첨단 패키징, 전력망, 냉각, 광통신, 시스템 소프트웨어까지 하나의 산업정책으로 묶지 않으면 경쟁력이 떨어질 수 있다.

👉 제조·통신·금융 대기업 및 중소기업은 AI 경쟁에 뒤처지지 않기 위해 고가 GPU를 직접 구매할 필요는 없다. 범용 업무는 외부 AI와 클라우드를 활용하고, 반복 사용량이 많거나 데이터 보안이 중요한 업무만 자체 인프라로 가져오는 '지능 주권' 전략이 현실적이다.

GPU를 얼마나 보유했는지가 아니라 업무 한 건을 완료하는 데 드는 총비용과 인프라 활용률을 측정해야 한다.

👉 개인투자자는 메모리 부족이 심해진다는 전망만으로 관련 기업의 주가 상승을 단정해서는 '큰 코 다칠' 수 있다. 수요 증가와 기업의 이익 포착 능력을 구분해야 한다.

HBM 출하량뿐 아니라 가격과 수율, 고객 구성, 설비투자 부담, 첨단 패키징 역량을 파악하는 것이 주요하다. 메모리 공급이 늘어난 뒤에도 기술적 우위와 가격 결정력을 유지할 수 있는지도 살펴야 한다.

AI 인프라의 첫 번째 국면은 GPU 확보전이었다. 두 거장의 진단대로라면 다음 국면은 메모리와 전력, 그리고 이들을 하나의 시스템으로 연결하는 경쟁이 될 가능성이 크다.

더밀크 회원에 가입하시면 AI 인프라 서밋에서 확인된 미래 반도체 전략을 파악할 수 있습니다.

구글 검색과 뉴스에서 더밀크(The Miilk)를 ‘선호하는 출처’로 추가하시면 AI·테크·비즈니스의 중요한 변화를 찾을 때 더밀크의 기사와 인사이트를 더 쉽게 만날 수 있습니다.

아래 링크를 누르시고, 목록에서 더밀크 옆 체크박스를 눌러주세요. (구글 로그인 상태여야 합니다)

[구글에서 더밀크를 선호 소스로 지정하기]