세계 최대 AI 행사로 자리매김한 ‘엔비디아 GTC(GPU Technology Conference) 2026’이 오는 16일(현지시각)부터 19일까지 미국 캘리포니아주 산호세에서 막을 올린다. 전 세계 190개국에서 3만 명 이상이 모이는 이번 컨퍼런스에서 엔비디아는 인간의 개입 없이 업무를 수행할 수 있는 ‘에이전틱 AI(Agentic AI)’와 이를 물리적 환경에서 구현하는 ‘피지컬 AI(Physical AI, 물리적 AI)’ 생태계를 뒷받침할 차세대 인프라의 청사진을 제시할 예정이다. 16일 오전 11시로 예정된 젠슨 황 엔비디아 최고경영자(CEO)의 기조연설이 그 시작점이다. AI 산업 및 기술의 발전 방향을 반영한 새로운 지형도가 그려질 것이라는 게 업계 전문가들의 관측이다.
2026년, AI 혁명의 승패는 '컴퓨팅 파워'에 달려있고, 최전선에는 엔비디아가 있다. 하지만 이 AI 제국의 발목을 잡는 그림자가 있으니, 바로 70여 년 전 한 천재가 설계한 컴퓨터 구조다.그의 이름은 존 폰 노이만(John von Neumann). 그가 1945년 제시한 '폰 노이만 아키텍처'는 오늘날 모든 디지털 기기의 근간이다. 중앙처리장치(CPU)가 메모리에서 명령어와 데이터를 순차적으로 가져와 실행하는 이 모델은 지난 70년간 디지털 혁명을 이끌었다. 하지만 AI 시대, 수백억 개 파라미터를 처리해야 하는 연산에서 CPU와 메모리 사이의 좁은 통로는 엄청난 교통체증, 즉 '폰 노이만 병목(Von Neumann Bottleneck)'을 피할 수 없었다. AI 연산의 90%는 데이터를 옮기는 데 허비되고, 정작 연산 유닛은 데이터 도착을 기다리며 '놀고 있는' 비효율이 발생하는 것이다. 엔비디아가 HBM(고대역폭 메모리)에 집착하고, 삼성전자와 SK하이닉스가 PIM(Processing-in-Memory)에 사활을 거는 이유다.역설적이게도, AI 시대의 가장 뜨거운 전장은 70년 전 사망한 천재 수학자의 머릿속에서 시작됐다. 더 놀라운 사실은, 폰 노이만 자신이 이 한계를 이미 예견했다는 점이다.
글로벌 AI 산업과 국가 안보의 지형을 바꾸는 중대한 사건이 발생했다. 챗GPT(ChatGPT) 개발사이자 세계 최대 AI 기업인 오픈AI가 2월 27일(현지시각) 밤 미국 국방부와 첨단 AI 모델 배포 합의를 전격 타결했다. 이 합의는 AI 모델의 군사적 활용에 제동을 건 앤트로픽(Anthropic)을 미 국방부가 국방 시스템에서 사실상 퇴출하는 초강수를 둔 직후에 단행됐다. 국가 안보 영역에서 AI의 중요성이 커지는 가운데, 실리콘밸리 빅테크 기업과 국가 권력의 역학 관계가 새로운 국면에 접어들었음을 시사하는 결정적 장면으로 기록될 전망이다. 👉돈과 기술, 전쟁으로 흐른다: AI 국방 유니콘에 베팅하는 실리콘밸리이번 합의는 단순히 기술 기업의 B2G(기업-정부 간) 계약 체결을 넘어서는 의미를 지닌다. 첨단 AI 기술과 국가 최상위 군사 안보 인프라를 융합하는 이른바 ‘군산-AI 복합체(Military-Industrial-AI Complex)’의 서막을 알리는 움직임으로 해석할 수 있기 때문이다. 실리콘밸리는 원래 미국 국방부의 군사 기술 수요(유도 미사일컴퓨터 등) 기반으로 반도체 산업이 탄생한 지역이다. 1956년 설립된 페어차일드 반도체 등을 통해 트랜지스터와 집적회로(IC)가 발전, 현대 디지털 시대를 열었다. 개인용 컴퓨터, 인터넷, GPS 등 최초에 군사용으로 개발된 기술이 소비자 기술로 확장된 사례도 적지 않다. 1991년 소련 붕괴, 그리고 이에 따른 냉전 종식 이후 군사 기술과 거리를 유지해 왔던 실리콘밸리의 기조가 다시 바뀐 건 2020년대 들어서부터다. AI, 드론, XR(확장현실) 등 첨단 기술의 급격한 발전과 전쟁 양상 변화로 실리콘밸리 기술이 다시 군사 핵심 요소로 쓰이게 됐다. 팔란티어(Palantir), 안두릴(Anduril Industries), 메타 등이 이 흐름의 선두에 선 기업이다. 오픈AI와 미 국방부의 이번 합의에도 이런 흐름이 반영됐다. 👉‘차세대 컴퓨팅’ 찾아 적에서 동지로... 저커버그-럭키 8년 애증사
구독자 여러분 안녕하세요, 실리콘밸리와 글로벌 혁신 현장에서 최신 AI 산업 트렌드와 인사이트를 전해드리는 박원익의 AI인사이트입니다. ‘엄밀한 진리 탐구, 아름다움에 대한 감탄, 인류애 함양, 모든 물리학 발견, 모든 유용한 기술 발명, 별들에 대한 자각, 사랑’일론 머스크 테슬라 CEO가 2월 20일(현지시각) 자신의 X 계정에 고정 게시글로 올려 둔 내용입니다. 본인이 설립한 AI 기업 xAI의 사명인 ‘우주에 대한 이해(Understand the Universe)’에서 인류애, 유용한 기술 발명, 사랑에 이르는 가치가 성취되고, 결국 인류가 유토피아에 도달할 수 있을 것이라는 메시지죠.
메타(Meta)와 AMD가 최대 1000억달러(약 144조원) 규모에 달하는 AI 인프라 구축 파트너십을 공식 발표했다.빅테크 기업들의 천문학적인 AI 자본지출(CAPEX, 설비투자)에 대한 월가의 우려에도 메타가 과감한 움직임을 보여준 것이다. ‘AI 거품론’을 비웃기라도 하듯 AI에 돈을 더 쏟아붓는 모양새다. 메가톤급 호재에 힘입어 이날 AMD의 주가는 장중 8% 이상 급등했다. 메타를 비롯해 구글, 아마존, 마이크로소프트 등 빅테크들이 자체 맞춤형 칩(ASIC) 개발을 가속하는 기술 트렌드가 부각되는 가운데, 엔비디아가 주도하는 범용 GPU의 입지가 좁아지는 것 아니냐는 관측도 제기된다.
구글이 막강한 자본력을 무기로 AI 반도체 시장의 절대 강자인 엔비디아의 아성에 도전하는 새로운 전략을 펴고 있다. 외부 데이터센터 파트너들이 구글이 자체 개발한 AI 칩 ‘TPU(텐서처리장치)’를 안정적으로 도입할 수 있도록 천문학적인 규모의 ‘재정적 지원(Financial Backstops)’과 지분 투자를 진행하는 방식이다. 2025년 말 기준 구글의 잉여현금흐름(FCF, 사업 유지에 필요한 비용을 빼고 남은 실제 현금)은 733억달러(약 106조2000억원)에 달한다. 과거 구글은 TPU를 주로 자사 검색 엔진 최적화나 내부 AI 모델 학습용으로 활용하는 폐쇄적인 생태계를 유지하다 2018년부터 클라우드 서비스를 통해 TPU 접근 권한을 판매해 왔다.큰 변화는 최근에 이뤄졌다. 반도체 및 AI 산업 분석 기업 세미어낼러시스(SemiAnalysis)에 따르면 생성형 AI 시장의 폭발적인 팽창, 대규모 언어 모델(LLM) 서비스 운영을 위한 추론(inference) 연산 비용의 급증에 따라 구글은 외부 고객에게 TPU 칩을 직접 판매하기 시작했다. 직접 판매, 지분 투자 등을 통해 보다 적극적으로 TPU의 공급을 확대하는 방향으로 전략을 수정한 것이다.
“올해 ‘인간 수준(human level)’의 로봇이 등장할 것으로 생각합니다.”젠슨 황 엔비디아 CEO가 AI와 로봇 산업의 미래에 대한 대담한 비전을 제시했다. 로보틱스 분야 기술 발전이 매우 빠르게 진행되고 있으며 올해부터 몇 년간 흥미진진한 일들이 벌어질 것이란 주장이다. 휴머노이드 로봇의 작업 수행 능력은 초보적인 수준이며 인간 수준에 도달하려면 시간이 걸릴 것이란 회의론을 일축했다. 1월 6일(현지시각) 미국 라스베이거스 퐁텐블루 호텔에서 열린 미디어·애널리스트 대상 질의응답 세션에서 황 CEO는 “(로봇 분야) 기술 발전 속도 얼마나 빠른지 제가 잘 알고 있다”며 “정교한 모터 기술(fine motor skills)은 개발하기 어려운 분야이지만, 관련 기술이 발전 중이고 이동 능력(locomotion)도 놀라운 진전을 보이고 있다. 이동 능력이 가장 먼저 해결되고 대근육 운동과 물체 잡기, 미세 운동 능력 순으로 기술이 완성될 것”이라고 했다. 황 CEO는 특히 로봇 내부에 정말 뛰어난 추론 능력을 가진 AI 모델이 탑재될 것이란 점을 강조했다. 로봇이 매우 빠른 추론을 할 수 있게 되며 추가 지식이 필요할 때는 클라우드에 있는 AI를 활용할 수도 있으므로 과거와는 다른 성능을 낼 수 있다고 봤다. 그는 “차 운전석에 앉으면 차를 몸 일부처럼 느끼게 된다. 마치 자신의 연장선인 것처럼 차를 조종할 수 있기 때문”이라며 “마찬가지로 AI는 다중 구현체(multi embodiment, 단일 지성체가 여러 물리적 표현체를 갖는 것)가 될 수 있다. AI 모델이 완벽한 매니퓰레이터(Manipulator, 로봇 팔), 자율주행 차량이 되는 걸 보게 될 것”이라고 했다. 👉젠슨 황 “피지컬 AI의 챗GPT 모멘트”… 엔비디아 지배 계속될 세 가지 이유
2025년 크리스마스 이브, 실리콘밸리에 폭탄이 터졌다. 엔비디아가 AI 추론 칩 스타트업 그록(Groq)의 자산을 약 200억달러(약 29조원)에 인수하기로 합의했다는 보도가 나온 것. 이는 엔비디아 인수합병 역사상 최대 규모의 거래다.24일(현지시간) CNBC에 따르면 엔비디아는 그록의 자산을 현금 200억달러에 매입하기로 했다.그록은 이날 블로그를 통해 이번 거래를 “엔비디아와의 비독점 라이선스 계약”이라고 밝혔다. 사이먼 에드워즈 최고재무책임자(CFO)가 CEO를 맡아 독립 회사로 존속한다고 밝혔다. 그록의 클라우드 사업인 ‘그록클라우드’도 이번 거래 대상에는 포함되지 않았다.하지만 반독점 심사를 받아야 하는 엔비디아는 회사를 통째로 삼키지 않고도 자신이 원하는 것(기술과 두뇌)을 모두 확보, 사실상의 인수합병으로 평가된다. 실제 그록의 창업자이자 CEO인 조너선 로스(Jonathan Ross)와 사장 서니 마드라(Sunny Madra)를 포함한 주요 임원진은 엔비디아에 합류해 사용권을 확보한 기술의 확장과 고도화를 지원할 예정이라고 확인했다.젠슨 황 엔비디아 CEO는 보도가 나온 직후, 임직원들에게 보낸 이메일에서 “그록의 저지연 프로세서를 엔비디아 AI 팩토리 아키텍처에 통합, 실시간 AI 추론과 다양한 워크로드를 더 폭넓게 지원할 계획”이라고 밝혔다. 또 “그록이라는 회사를 인수하는 것은 아니며 인재와 지식재산(IP)을 라이선스 형태로 확보하는 것”이라고 말했다. 엔비디아의 그록 흡수 소식은 2026년부터 AI 산업의 중심축이 '훈련(training)의 시대'에서 '추론(inference)의 시대'로 본격 이동하고 있음을 알리는 신호탄으로 풀이된다.더밀크는 7문 7답을 통해 이번 딜의 핵심을 짚어본다.
2025년 12월 18일. 월스트리트의 트레이더들은 뉴욕 증권거래소(NYSE)의 개장 벨이 울리기 전부터 마이크론 테크놀로지(Micron Technology, 티커: MU)의 주가 모니터에서 눈을 떼지 못했다. 전날 장 마감 후 발표된 마이크론의 2026 회계연도 1분기(2025년 9월~11월) 실적 발표에서 고대역폭 메모리(HBM)에 대한 강력한 수요가 재확인됐기 때문이다. 마이크론 경영진은 “2026년 말까지 HBM 공급이 완전히 매진됐다”고 밝히며 반도체 재고 과잉 우려를 불식시켰다. 1년 후 공급량까지 이미 판매 완료됐다는 건 강력한 수요가 지속되고 있다는 증거다. 마이크론의 주가는 이날 개장 전 프리마켓에서 폭등했고, 개장 후 정규 장에서도 10% 이상의 상승세를 유지하며 뉴욕 증시 기술주 랠리를 주도했다.마이크론의 실적 발표는 AI라는 거대한 해일이 글로벌 반도체 산업의 지형을 어떻게 바꾸고 있는지 보여준다. 이는 2026년이 ‘반도체 공급 전쟁’의 해가 될 것임을 알리는 신호탄이기도 하다. AI 인프라 경쟁은 버블 우려를 뛰어넘어 여전히 가속되고 있었다.👉초지능의 토대, AI 인프라 혁명
인공지능(AI) 시대를 상징하는 인물로 떠오른 젠슨 황 엔비디아 최고경영자(CEO)의 방한이 국내외에 큰 파장을 일으키고 있다.‘아시아태평양경제협력체(APEC) 정상회의’ 참석차 한국을 찾은 그는 삼성전자 이재용 회장, 현대차그룹 정의선 회장과 ‘치맥 회동’을 가지며 우호를 다졌고, 이재명 대통령과의 만남에서는 한국에 26만 장의 GPU를 공급하겠다고 약속했다. 이는 정부가 세운 2030년 20만 장 확보 목표를 훌쩍 뛰어넘는 규모로, 한국이 미국·중국과 어깨를 나란히 하는 ‘AI 3강’으로 도약할 발판이 될 전망이다.젠슨 황이 던진 GPU 26만 장이라는 거대한 숫자는 단순한 기술 계약이 아니다. 이제 공은 우리에게 넘어왔다. AI 시대의 심장이라 불리는 GPU를 확보한 한국은 이 기회를 어떻게 활용해야 할까. GPU는 왜 그렇게 중요한가, 그리고 ‘26만 장의 GPU’는 우리 삶과 산업에 어떤 변화를 불러올까?
오픈AI와 삼성, SK와의 딜의 실체를 이해하려면 먼저 엔비디아와 오픈AI의 1,000억 달러(약 140조원) 거래를 이해해야 한다. '판을 바꿨다'는 평가를 받는 이 거래의 본질은 엔비디아는 오픈AI가 10기가와트 규모의 자체 데이터센터를 구축하도록 자금을 제공한다는 내용이다. 오픈AI는 엔비디아의 투자를 받은 자금으로 엔비디아의 GPU를 구매하거나 리스한다. 여기서 중요한 점은 오픈AI가 하드웨어를 직접 소유하려 한다는 점이다. 그렇다면 지금까지는 오픈AI는 GPU를 직접 소유하지 않았나? 그렇다. 오픈AI는 마이크로소프트, 오라클로부터 전략적 투자를 받으면서 이들의 클라우드로부터 칩을 임대해 사용해왔다. 하지만 스타게이트 프로젝트를 진행하며 앞으로는 달라야 한다고 판단했다. 자신의 인프라를 직접 구축하려는 것이다. HBM은 AI 데이터센터의 핵심 구성요소다. 손영권 하만 의장에 따르면 엔비디아가 판매하는 4만달러짜리 GPU 모듈을 열어보면 내용물의 70%가 메모리일 정도다. 이 구조에서 HBM의 역할이 '매우' 중요하다고 판단, 삼성그룹과 SK그룹을 찾았다.