코인베이스는 어떻게 AI 비용을 50% 낮췄나?

구독자 여러분 안녕하세요, 실리콘밸리와 글로벌 혁신 현장에서 최신 AI 산업 트렌드와 인사이트를 전해드리는 박원익의 AI인사이트입니다.

브라이언 암스트롱 코인베이스 CEO가 흥미로운 차트를 공유했습니다.

AI 지출은 줄어드는데, 토큰(token, AI가 생성·처리하는 데이터의 최소 단위) 사용량은 유지됩니다. AI를 계속해서 적극적으로 활용하면서도 비용을 줄였다는 뜻입니다.

GLM 5.2, Kimi 2.7 같은 오픈웨이트(공개 가중치) 모델을 기본으로 설정한 게 주효했습니다. 직원들의 토큰 사용 한도를 줄이지 않고도 기본값을 저렴하게 설정, 효과를 본 것이죠. 모델을 적절하게 골라주는 스마트 라우팅도 큰 영향을 미쳤습니다. 계획 단계에는 가장 강력한 프런티어 모델, 실행 단계에는 더 저렴한 모델을 쓰는 방식입니다. 사람이 모델을 선택하는 것이 아니라 AI가 이 작업을 자동화하도록 했습니다. 

이뿐만이 아닙니다. 코인베이스는 AI의 기억, 즉 메모리 데이터 ‘웜 캐시(Warm Cache)’를 적절하게 재사용하고, 작업이 바뀌면 세션을 새로 시작하는 등 컨텍스트(context, 맥락)를 간소화해 낭비되는 토큰을 줄였습니다. 토큰 사용 내역을 투명하게 공개해 ‘가시성’을 높인 것도 효과가 있었습니다. 

“AI 사용을 억제하는 것이 아니라 ‘지속 가능한’ 기하급수적 성장 인프라를 구축하는 것이 목표입니다.” 

코인베이스의 토큰 사용량은 계속 증가했지만, AI 지출은 거의 절반으로 줄었습니다. 이것이 바로 토큰 이코노미(Token Economy)의 핵심입니다. 무턱대고 AI를 많이 사용하는 것이 아니라, 얼마나 현명하게 쓰느냐가 경쟁력을 가르는 것입니다. 

이 원리는 기업 단위를 넘어 국가 단위로 확장되고 있습니다. 대한민국이 AI, 반도체 분야에 4755조원을 투자한다고 발표한 배경에도 토큰 이코노미가 있었습니다.

팩트 요약: 대한민국, 역대 최대 민관 투자 발표

1. 6월 29일(현지시각) 청와대에서 열린 ‘3대 메가프로젝트 국민보고회’에서 삼성전자와 SK하이닉스는 반도체·피지컬AI·AI 데이터센터를 축으로 한 4755조원 규모의 투자 계획을 발표했습니다. 역사상 최대 민관 합동 투자 발표입니다.

2. 배경훈 과학기술정보통신부 장관은 이번 발표에서 ‘토큰 이코노미 전략’을 언급하며 반도체, 데이터센터를 단순 인프라가 아닌 토큰을 생산하는 공장(Token Factory)으로 규정했습니다. 비용 부담 없이 AI를 활용할 수 있는 나라를 만들겠다는 목표입니다. 

왜 중요한가:

이런 투자가 나올 수 있었던 결정적 신호는 무엇이었을까요? 메모리 반도체 생산라인 구축 비용, ASML EUV 장비 값까지 대신 내주겠다는 글로벌 빅테크의 제안은 권력 역전을 보여주는 장면이었습니다.

메모리가 올해 하이퍼스케일러 데이터센터 지출에서 차지하는 비중은 30%로, 2023년의 약 4배에 이른다는 분석도 나옵니다.

👉더 알아보기: 전 세계, D램 병목 놓쳤다… 3가지 착시(무료)

팩트 요약: 세미애널리시스, WF₆ 공급망 위기 경고

1. 반도체 전문 리서치 기업 세미애널리시스(SemiAnalysis)가 29일(현지시각) WF₆(텅스텐헥사플루오라이드) 공급망 위기를 경고했습니다. 

2. WF₆는 3D 낸드와 HBM 같은 수직 적층 반도체 구조에 필수적인 특수 가스입니다. 적층이 복잡해질수록 소모량이 기하급수적으로 늘어납니다.

왜 중요한가:

문제는 전 세계 텅스텐 채굴·정제·분말 생산능력의 약 80%를 중국이 점유하고 있다는 점입니다. 올해 중국의 누적 텅스텐 금속 분말 수출량은 전년 동기 대비 약 50% 감소했습니다.

4755조원 투자가 완성되려면 웨이퍼와 HBM 생산라인만으로는 부족합니다. 반도체 설계·소재·장비·패키징이라는 생태계 전체가 함께 움직여야 합니다.

👉더 알아보기: 한중일 연결고리… 얼마나 노출돼 있나(무료)

팩트 요약: 앤트로픽 미토스 제쳐 + 정부 승인 배포

1. 오픈AI가 26일 새로운 AI 모델 GPT-5.6을 발표했습니다. 코딩 성능 벤치마크 터미널-벤치 2.1(TerminalBench 2.1)에서 클로드 미토스 5를 뛰어넘었습니다. 

2. 더 주목할 대목은 배포 방식입니다. GPT-5.6은 미국 정부가 참여를 승인한 약 20개 기업에 제한 프리뷰로 먼저 공개됩니다. 

왜 중요한가:

토큰 이코노미 시대, 비용 효율을 높이려는 움직임과 동시에 가장 강력한 AI 모델은 국가 전략 자산으로 통제하려는 움직임도 강화되고 있습니다. 

앤트로픽의 클로드 미토스, 페이블 금지 사태를 본 오픈AI는 처음부터 정부 승인 절차를 거쳐 AI 모델을 배포하는 방식을 채택했습니다. 토큰을 생산하는 하드웨어 인프라를 누가 쥐느냐의 경쟁, 소프트웨어(AI 모델 접근권) 경쟁이 동시에 확장되는 것입니다.

👉더 알아보기: [총정리] GPT-5.6, 새 질서를 준비하라(무료)

오늘의 레터에서 다룬 세 가지 이슈에서 한발 더 나아가 더밀크만의 뷰(view)를 제공해 드리는 위클리 인사이트 코너입니다.

AI 강국, 중국은 무엇을 하고 있을까요. 더밀크는 6월 24일부터 26일까지 상하이에서 열린 ‘MWC26 상하이’ 현장에 다녀왔습니다. 데이비드 왕 화웨이 부회장은 기조연설에서 단언했습니다. “지금까지 바이트(bytes)에 과금했다면 앞으로 10년은 토큰을 수익화해야 한다.” 토큰 이코노미의 전쟁터는 하드웨어, 소프트웨어뿐 아니라 소비 시장 설계로까지 이어지고 있습니다.

👉위클리 인사이트: 중국은 시장을 만든다… MWC26 상하이에 가보니(무료)

• 오픈AI, 첫 자체 AI 칩 ‘할라페뇨’ 공개: 오픈AI가 24일(현지시각) 브로드컴과 공동 개발한 첫 자체 설계 AI 칩 ‘할라페뇨’를 공개. LLM 추론 전용 맞춤형 반도체(ASIC)로, 설계 착수부터 테이프아웃까지 단 9개월이 걸림. 추론 비용 약 50% 절감 전망

• 마이크론, FY2026 3분기 사상 최대 실적 발표: 마이크론은 24일 FY2026 3분기 실적을 발표. 매출 414억6000만달러로 사상 최고 매출 경신. 지난해 3분기와 비교해 4.5배 증가. 영업이익은 333억2000만달러로 1년 전보다 15.4배 급증. 메모리 반도체 수요를 증명

• 오픈AI, 에이전트가 일을 바꾸는 방법 보고서: 오픈AI는 25일 기업 현장에서 AI 에이전트가 업무를 실제로 어떻게 바꾸고 있는지 분석한 ‘에이전트가 일을 바꾸는 방법’ 보고서를 공개. 코딩·금융 분석·법률 리서치 등 분야별 에이전트 도입 사례와 생산성 향상 수치 제공

구독자 여러분들의 성공과 꾸준한 성장을 위해 더밀크는 계속해서 혁신의 현장, 미래가 바뀌는 순간을 목격하고 전달해 드리겠습니다. 감사합니다.

뉴욕에서
박원익 드림