신정규 래블업(Lablup) 대표는 19일 “2023년 이후 3만 개 이상의 새로운 파인튜닝(Fine-tuning, 미세조정) 모델이 등장했다”며 이같이 말했다. 이날 ‘더웨이브 서울 2024’ 컨퍼런스 연사로 나선 신 대표는 라마의 등장을 ‘베를린 장벽 붕괴’에 비유했다. 소련 중심의 사회주의 몰락의 시작인 베를린 장벽 붕괴가 갑작스레 시작된 것처럼 메타의 라마도 지난 2023년 3월 의도치 않은 유출로 공개되면서 AI 산업 전반에 큰 변화를 일으켰다는 것이다.실제 라마는 메타가 자체 거대언어모델(LLM)인 '라마'를 처음부터 오픈소스로 풀겠다는 의지를 갖고 있던 것은 아니었다. 하지만 구글과 오픈AI 사이에서 생존을 고민하던 메타가 연구목적의 대학과 연구소에 모델을 무료로 공개하면서 퍼지기 시작했으며 깃허브에 소스가 올라가면서 사실상 '오픈소스'가 되버린 것이다. 이후 마크 저커버그 메타 CEO가 공식적으로 라마의 오픈소스를 공식적으로 선언했다. 이후 라마를 미세조정한 모델이 우후죽순 쏟아지며 갑자기 'LLM 르네상스'를 맞이하게 됐다. 신 대표는 이처럼 생성AI 혁명의 시작은 오픈AI가 지난 2021년 11월 챗GPT를 선보이면서 이지만 실제 각 분야로 넓게 퍼지며 촉발된 것은 메타가 라마를 오픈소스로 공개하면서 부터라고 의미부여했다. 이후 라마를 미세조정해 새로운 AI 모델을 개발하는 방식이 확산하면서 AI 모델 개발 비용이 크게 감소했다. 또 개인용 장비·기기에서 AI 모델을 활용하는 ‘온디바이스AI(On-device AI)’가 동시에 부상하게 됐다. 신 대표는 “AI 모델을 기기 자체에서 실행하면 지연 시간이 짧고, 인터넷 없이 사용할 수 있다”며 “사용자 데이터가 외부로 나가지 않는다는 장점도 있다. 프라이버시 보호가 중요한 음성 비서, 헬스케어, 스마트홈 기기 등에서 많이 활용되는 추세”라고 강조했다.
엔비디아가 세계에서 가장 가치 있는기업의 상징적 지표로 꼽히는 '시가총액' 1위에 올랐습니다(6월 20일 기준 시총 3위로 다시 내려왔습니다).엔비디아가 3조달러의 시총(밸류에이션)이 인정받는 것은 GPU 판매 때문은 아닙니다. 그들은 치열하게 수익 다각화를 모색 중이기 때문입니다. 소프트웨어 및 클라우드로 확장하거나 하드웨어와 소프트웨어를 끼워파는 방식입니다. 칩을 넘어서 데이터 센터를 위한 GPU, 소프트웨어 및 시스템으로 확장하고 있는 거죠. GPU 판매만으로는 부족하다는 것을 잘 알고 있습니다.엔비디아가 무서운 이유입니다. 그렇다면 엔비디아는 어떤 비즈니스 모델을 갖추고 있는 것일까요?
삼성전자가 12일(현지시각) 미국 실리콘밸리에서 개최한 ‘삼성 파운드리 포럼(Samsung Foundry Forum)’에서 AI 제품 관련 매출 청사진 및 로드맵(roadmap, 계획)을 제시했다. 송태중 삼성전자 파운드리사업부 상무(VP, 사업개발팀장)는 이날 삼성 파운드리 포럼 2024 미디어 브리핑에 참석, “2028년 AI 칩 관련 매출이 지난해 대비 9배로 증가할 것으로 예상한다”고 밝혔다. 올해 AI 칩 관련 매출은 작년 대비 1.8배로 늘어나고, 고객 수 역시 올해 2배로 늘어날 것으로 예측했다. AI 칩 관련 메모리, 파운드리(반도체 위탁 생산), 고대역 메모리 적층을 위한 ‘첨단 패키지(Advanced Package)’ 솔루션을 모두 보유한 회사는 삼성전자가 유일하며 이런 점 때문에 고객 요청이 계속되고 있다는 설명이다. 엔비디아에 HBM을 납품을 언제 할 수 있느냐는 질문에 대해서는 즉답을 피했다. 김인동 메모리 사업부 상무는 “현재 협력 중이나 고객과 무엇을 하고 있는지 언급하기는 어렵다”고 했다. 현재 삼성잔자는 HBM 5세대 제품 ‘HBM3E’의 품질 테스트를 진행 중이다. 한편 ‘반(反)엔비디아 연합’으로 불리는 울트라 가속기 링크(Ultra Accelerator Link·UA링크) 그룹에 삼성전자가 참여할 수 있다는 언급도 나왔다. UA링크는 마이크로소프트, 구글, 메타 등 빅테크와 인텔, AMD, 브로드컴 등 반도체 기업, 휴렛팩커드 엔터프라이즈(HPE), 시스코 등이 참여해 추진 중인 새로운 데이터 전송 링크다. AI 모델 훈련과 추론 등 강력한 연산력이 필요한 작업을 수행하려면 칩과 칩을 연결, 대량의 데이터를 효율적으로 처리할 필요가 있다. 현재 GPU(그래픽처리장치)를 앞세워 AI 가속기 시장을 지배하고 있는 엔비디아가 자체 데이터 전송 솔루션 ‘NV링크(NVLink)’를 개발, 다양한 자사 제품군에 적용하고 있는 이유다.송 상무는 “(칩 간의) 상호연결은 매우 중요하다”며 “UA링크(UALink) 그룹의 표준화 시도가 매우 흥미롭다고 생각한다. (삼성전자도) 지원 방법을 논의하고 있다”고 했다. AI 업계에서는 엔비디아를 제외한 다른 기업들이 뭉쳐 UA링크 표준 구축에 나선 것은 시장을 사실상 독점하고 있는 엔비디아의 독주를 견제하기 위한 움직임이라고 해석하고 있다. 파운드리 및 메모리 부문 강자 삼성이 향후 UA링크 진영에 합류한다면 새로운 표준에 더 힘이 실릴 수 있을 전망이다.
김호식 SK하이닉스 부사장(VP)은 10일(현지시각) “메모리 월, 메모리 바운드 문제 때문에 HBM이 생성 AI 소프트웨어, 하드웨어에서 매우 중요한 요소가 됐다”며 이같이 말했다. 메모리 월(Memory Wall)은 프로세서와 메모리 성능 차에 따른 병목 현상, 메모리 바운드(Memory Bound)는 대규모 언어 모델(LLM)의 성능이 메모리의 대역폭과 용량에 의해 제한되는 현상을 뜻한다. 생성 AI 붐으로 인해 프로세서 속도 경쟁이 가열되고 연산량도 폭증, HBM이 생성 AI 산업의 핵심 요소로 떠오른 것이다.
안녕하세요 뷰스레터 구독자 여러분, 스핀오프 레터, [비저너리(Visionary)]의 김세진입니다.영원한 건 없습니다. 엔비디아의 주가가 3조달러(약 4119조원)를 넘어서며 애플을 제치고 시가총액 2위로 등극했습니다. 지난 5년 동안 주가는 3300% 상승했죠. 엔비디아는 아이폰을 파는 애플이나 윈도우를 파는 마이크로소프트(시총 1위)같이 우리가 알던 익숙한 기업이 아닙니다. 주로 기업에 반도체를 파는 회사죠. 엔비디아는 소비자(컨슈머) 제품 없이 어떻게 이 자리까지 올 수 있었을까요? <더밀크 주요 콘텐츠> 로비왕 된 코인베이스... 크립토, 미 대선 '큰 손' 됐다[단독] 크리스 밀러 “삼성의 문제는 HBM 아닌 파운드리"[영문] China leads in localized AI chip supply chain; US lags behind[영문] AI Voices Could Upend Economics of K-Pop Production바로 자기 혁신입니다. 젠슨 황 엔비디아 창업자는 게임용으로 만들었던 GPU가 AI 훈련에 적용될 수 있다는 점을 깨닫고 제품을 전면 갈아엎었습니다. 이 ‘AI 두뇌’ GPU는 오픈AI가 AI모델을 비약적으로 고도화시킬 수 있게 한 동력이 됐죠. 오픈AI의 챗GPT가 AI 열풍을 이끈 후 GPU 품귀 현상이 벌어지면서 ‘엔비디아 GPU 파트너십’여부는 AI산업의 성공을 판가름할 요소가 됐습니다.
안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. “모든 것을 가속화하라.” 지난 2일(현지시각) 대만 IT 컨퍼런스 ‘컴퓨텍스’ 기조연설에 등장한 젠슨 황 엔비디아 CEO의 발언입니다. 컴퓨팅 파워(연산 능력)를 지칭한 것이었지만, 엔비디아가 더 빠른 속도로 달리겠다는 말처럼 들렸습니다. 실제로 엔비디아는 지난 3월 미국 산호세에서 개최한 GTC 2024에서 블랙웰 아키텍처와 신형 칩을 공개한 지 3개월여 만에 차세대 아키텍처 ‘루빈(Rubin)’을 공개했습니다. 2년이던 신제품 개발 주기를 절반(1년)으로 단축한 것이죠. 이 소식에 3일(미국시간) 열린 뉴욕증시에서 엔비디아의 주가는 약 5% 올랐습니다.AI 기술·산업은 정말 빠르게 발전하고 있고, 매일 이슈가 쏟아져 ‘중요한 신호’를 파악하기 어렵습니다. 매주 화요일 발행하는 더밀크의 AI 전문 뉴스레터 ‘AI인사이트’로 중요한 신호, 의미를 놓치지 말고 확인하세요!
The global race for semiconductor supremacy has the potential to reshape the balance of power in the 21st century, with the United States and China locked in a high-stakes battle that could redefine the future of technology, innovation, and geopolitical influence.The Third Semiconductor War is unfolding. Following 15-year cycles focused first on PCs and then smartphones, artificial intelligence has now taken the baton. In an exclusive video interview, Chris Miller, a professor at Tufts University, emphasized that true competitiveness lies in technological superiority, not just localized production.Miller argues that while nations worldwide subsidize domestic semiconductor manufacturing, this approach has its limits. "The success or failure of any semiconductors, including South Korean chip companies, is primarily decided not by whatever subsidies they receive, but rather by clever technology," Miller stated. He mentioned that in the memory chip space, Samsung has traditionally been the biggest player, but over the last year, SK Hynix has outperformed it by producing the most advanced type of DRAM, known as high-bandwidth memory (HBM) chips, crucial for AI processing. "Governments must realize that their role is at best as a helper. The success or failure of their efforts won't be determined by the amount of spending but by the efficacy of the companies' R&D efforts."A notable point is that China is one of the few countries that has successfully localized its supply chain. China has now localized much of its supply chain, posing a direct challenge as the world's two superpowers jockey for semiconductor supremacy in the emerging AI era. At the same time, the traditional hierarchy is being disrupted, with South Korean upstart SK Hynix surpassing long-dominant Samsung in advanced high-bandwidth memory chips coveted for AI applications.
구글, 마이크로소프트, 메타 등 빅테크 기업과 미국 반도체 기업 AMD(어드밴스트마이크로디바이스), 인텔 등이 AI 칩 선두 주자 엔비디아를 겨냥해 손을 잡았습니다. 30일(현지시각) 인텔, 구글, 마이크로소프트, 메타, AMD, 브로드컴, 시스코, 휴렛페커드(HPE) 등은 ‘울트라 가속기 링크(Ultra Accelerator Link·UA링크) 프로모터 그룹’이라는 새로운 협력조직을 구성하고 AI가속기 통신을 위한 기술 표준을 개발하고 있다고 발표했습니다.AI 가속기는 AI 학습, 추론에 특화한 GPU부터 AI모델의 트레이닝 속도 상승, 모델 미세조정(파인튜닝) 등 맞춤형 설계 솔루션을 통칭합니다. 이 그룹은 데이터센터에 탑재되는 AI 가속기, 고성능컴퓨팅(HPC), 클라우드 애플리케이션 간 인터페이스 간 연결을 원활하게 하는 표준을 개발하게 됩니다. 이를 통해 대규모 AI 시스템의 속도를 높이고 지연을 줄인다는 목표죠. 'UA링크 프로모터 그룹'은 오는 3분기 UA링크 1.0을 시작으로 개발 표준을 선보일 예정입니다.
AI 반도체 전쟁, 어디로 갈까? 삼성전자는 반도체 산업 경쟁력을 잃은 것일까? 메모리만 의존하는 한국 반도체, 미래는 있는가? 반도체 경쟁력이 국력이 되고 있는가운데 더밀크는 K 반도체의 미래를 찾기 위해 '칩 워'의 저자 크리스 밀러 미 터프츠대 교수를 단독 인터뷰 했다. 크리스 밀러 교수는 "삼성전자 반도체의 문제는 HBM이 아니다. 파운드리다"며 직격타를 날렸다. 또 미국 등 각국 정부에서 자국 반도체 산업 경쟁력을 높이기 위해 적극적인 보조금 정책을 펴고 있지만 "진정한 경쟁력은 보조금이 아닌 '기술 우위'에서 나올 것이다"며 "압도적 기술 격차를 갖도록 연구개발해야 한다"고 말했다. 이번 인터뷰는 3차 반도체 전쟁이 벌어지고 있는 가운데 성사됐다. PC 15년, 스마트폰 15년에 이어 인공지능(AI) 기술이 바통을 이어받았다. 2022년 11월 생성AI 챗봇 챗GPT가 출시된 후 AI 모델을 개발하기 위한 글로벌 경쟁이 시작됐고, 이때 AI를 훈련하는 데 필수재인 반도체칩에 대한 수요가 폭발적으로 증가했다.엔비디아와 함께 AMD, 마이크론(MU), ASML, 마이크로소프트 등 관련 기업들은 주가와 시가총액이 치솟았다.아시아에는 이들이 설계한 칩을 제조하는 기업들이 생겨나면서 글로벌 반도체 공급망이 형성됐다. 대만의 TSMC는 엔비디아가 설계한 로직칩을 조립, 생산하는 ‘파운드리’ 시장을 장악하며 넘사벽이 됐다. 한국의 삼성, SK하이닉스 등은 메모리(D램) 시장을 사실상 독점하고 있다. 메모리칩(D램)과 저장칩(NAND)은 AI 알고리즘이 처리할 방대한 데이터 세트와 명령을 저장한다. 일본은 일본 소부장(소재·부품·장비), 중국은 광전지 반도체 생산 분야에서 두각을 드러냈다. 말레이시아, 필리핀, 태국, 베트남도 조립으로 글로벌 반도체 공급망에 속해 있다.현재 글로벌 반도체 공급망은 지각변동 중이다.
일론 머스크 테슬라 CEO가 AI 훈련 및 추론을 위한 슈퍼컴퓨터 구축에 나선다. 자신이 설립한 AI 스타트업 엑스AI(xAI)가 조달한 투자금을 여기에 투입한다는 계획이다. 26일(현지시각) xAI는 60억달러(약 8조2000억원) 규모의 시리즈 B 투자 유치를 마무리했다고 발표했다. 밸러 에퀴티 파트너스, Vy 캐피털, 앤드리슨 호로위츠, 세쿼이아 캐피털, 피델리티 매니지먼트 앤 리서치 컴퍼니, 알왈리드 빈 탈랄 왕자, 킹덤 홀딩 등이 투자자로 참여했다. xAI는 “곧 여러 가지 흥미로운 기술 업데이트와 제품을 공개할 예정”이라며 “인프라 구축, 미래 기술 연구 가속화에 투자금을 사용하겠다”고 밝혔다.