AI 인프라 기술, 비즈니스의 미래? ... 크루소를 보라

‘AI 네오클라우드의 거인(AI Neocloud Giant)’

반도체 리서치 및 분석 업체 세미애널리시스(SemiAnalysis)는 2018년 설립된 AI 데이터센터 스타트업 크루소(Crusoe)를 ‘거인’으로 규정했다. GPU(그래픽처리장치) 컴퓨팅(computing) 대여라는 새로운 유형의 클라우드 컴퓨팅 서비스를 제공하는 ‘AI 네오클라우드’ 중에서도 가장 큰 규모를 자랑한다는 이유에서다. 

세미애널리시스의 이런 평가는 결코 과대광고(hype)가 아니다. 7년 된 이 스타트업은 올해 1월 21일(현지시각) 도널드 트럼프 미국 대통령이 취임 직후 발표한 5000억달러(약 691조) 규모의 초대형 AI 인프라 구축 사업 ‘스타게이트(Stargate)’ 프로젝트에 오픈AI, 오라클과 함께 핵심 개발사로 참여하며 또한번 업계를 깜짝 놀라게 했다. 

8월 21일에는 약 100억달러(약 13조8000억원)에 달하는 기업가치로 10억달러 이상의 신규 자금 조달을 논의 중이라는 소식도 전해졌다. 이는 약 8개월 전 진행한 6억달러 규모 시리즈 D 투자 유치 당시 기업가치(28억달러) 대비 3배 이상 급증한 수치였다. 

크루소가 폭발적인 성장을 이룬 비결, 실리콘밸리와 월스트리트의 주목을 받는 배경은 무엇일까? 피터 틸 팔란티어 테크놀로지스 회장이 설립한 파운더스펀드, 엔비디아(NVIDIA), 세계 최대 자산운용사 중 하나인 피델리티, UAE 국부펀드 무바달라(Mubadala) 등 쟁쟁한 투자자들은 왜 크루소에 베팅했을까?

콜로라도주 덴버에 본사를 둔 크루소는 현재 스타게이트 프로젝트의 첫 번째 플래그십 데이터센터 캠퍼스를 텍사스주 애빌린에 구축 중이다. 단순한 데이터센터 운영사를 넘어 차세대 AI 인프라의 설계와 구축을 책임지는 핵심 플레이어로 인정받고 있는 것이다. 

크루소가 이런 인정을 받는 배경을 이해하려면 AI 시대의 가장 근본적인 문제, 즉 기하급수적으로 증가하는 AI의 연산 수요를 뒷받침하는 ‘전력’ 문제에 대해 살펴볼 필요가 있다. 

AI 혁명 가속화는 인류를 전례 없는 에너지 위기에 직면하게 했다. 대규모 언어 모델(LLM)을 훈련하고 운영하는 데 필요한 컴퓨팅 파워는 천문학적 수준으로 증가하고 있으며 이는 곧 전력 소비량의 폭증으로 이어진다. 

국제에너지기구(IEA), WEF를 비롯한 관련 기관은 2020년 전 세계 전력 소비의 약 1~1.5%를 차지했던 데이터센터의 비중이 2030년에는 8%까지 치솟을 수 있다고 경고한다. 이러한 전력 수요 급증은 기존 전력망에 막대한 부담을 줄 뿐만 아니라, 기후 위기 문제, 빅테크 기업들의 탄소 중립 목표 달성에도 심각한 걸림돌이다. AI의 발전이 전력 공급의 한계라는 물리적 장벽에 부딪히고 있는 것이다.

크루소는 바로 여기에서 기회를 발견했다. 회사설립 초기 크루소는 석유 시추 과정에서 발생하는 환경 문제인 ‘가스 플레어링(gas flaring)’ 해결에 집중했다. 판매나 운송이 어려운 잉여 천연가스를 현장에서 태워버리는 가스 플레어링 과정에서 막대한 온실가스가 배출돼 온 것이다. 

특히 천연가스의 주성분인 메탄은 연소 과정에서 불완전 연소돼 대기 중으로 방출되는데, 이는 이산화탄소보다 80배 이상 강력한 온실효과를 유발하는 등 큰 사회적 문제로 지적됐다. 

크루소는 자체 특허 기술인 ‘디지털 플레어 완화(Digital Flare Mitigation®, DFM)’로 이 문제에 대한 독창적인 해법을 제시했다. DFM의 작동 원리는 다음과 같다. 석유 시추 현장 바로 옆에 이동 가능한 모듈형 데이터센터를 설치, 좌초된(stranded) 에너지인 천연가스를 포집한 것이다. 

이렇게 포집된 천연가스는 데이터센터 내 발전기를 가동하는 연료로 사용된다. 최종적으로 데이터센터 내 고성능 GPU 클러스터를 가동, AI 모델 훈련이나 비트코인 채굴 등 막대한 연산이 필요한 작업을 수행할 수 있게 했다. 

환경과 경제, 두 마리 토끼를 모두 잡다

DFM 기술은 환경과 경제 두 마리 토끼를 모두 잡는 효과를 낳는다. 크루소에 따르면 DFM은 기존 플레어링 방식 대비 메탄 배출량을 약 98%, 이산화탄소 환산 배출량을 63%까지 줄일 수 있다. 경제적 효과도 크다. 사실상 폐기물이었던 자원을 활용해 전력을 생산함으로써 시장 가격보다 현저히 낮은 비용으로 에너지를 확보할 수 있기 때문이다. 미국 전력의 60%가 여전히 화석 연료를 통해 생산되고 있다는 점은 이 기술의 중요성을 더 크게 만든다. 

결과적으로 크루소는 AI 데이터센터 운영비의 가장 큰 비중을 차지하는 전력 비용에서 구조적인 경쟁 우위를 확보할 수 있게 만들었다. 석유 회사 입장에서는 규제 강화와 환경 부담으로 골머리를 앓던 플레어링 문제를 추가 비용 없이 해결할 수 있다. 고객사, 석유회사, 환경 모두 이익을 얻는 ‘윈-윈-윈’ 구조를 구축한 셈이다.

크루소의 에너지 전략은 가스 플레어링에만 머무르지 않는다. DFM 기술로 증명된 ‘고립 에너지 활용 모델’을 풍력, 태양광, 수력 등 다른 청정에너지원으로 확장하고 있다. 

현재 크루소는 15GW가 넘는 규모의 청정에너지 프로젝트를 개발 중이며, 모든 종류의 에너지를 활용하는 종합 에너지 기업으로 진화하고 있다.

대표적인 사례가 바로 텍사스 스타게이트 프로젝트다. 이 거대한 AI 데이터센터 캠퍼스는 텍사스 서부의 풍부한 풍력 발전을 주 전력원으로 사용하도록 설계됐다. 이는 크루소의 비즈니스 모델이 특정 에너지원에 국한되지 않고, 지역별 에너지 특성에 맞춰 최적의 솔루션을 제공할 수 있는 유연성과 확장성을 갖추었음을 보여준다.

수직 통합이 핵심 차별화 요소… 에너지 우선 전략

‘수직 통합(Vertical Integration)’도 크루소의 핵심 차별화 요소로 평가된다. 에너지원 확보부터 데이터센터 구축, 클라우드 서비스 운영까지 전 과정을 직접 통제하는 수직 통합 모델을 갖고 있다는 점에서 AWS, 마이크로소프트 애저(Azure), 구글 클라우드 등 기존 하이퍼스케일러의 지속 가능한 대안으로 자리매김할 수 있다는 분석이다. 

크루소는 기존 전력망에 의존하는 대신, 에너지 생산 현장에서 직접 전력을 조달하거나 발전 시설을 구축해 비용과 공급 안정성을 확보하는 ‘에너지 우선 전략(energy first approach)’를 추진하고 있다. 

AI 워크로드에 최적화된 고밀도 GPU 랙, 액체 냉각 시스템 등을 갖춘 데이터센터를 자체적으로 설계하고 건설하는 역량도 갖췄다. 자체 인프라 위에서 ‘크루소 클라우드(Crusoe Cloud)’라는 이름의 IaaS(서비스형 인프라) 및 PaaS(서비스형 플랫폼)도 직접 운영, 고객에게 제공한다.

외부 업체로부터 데이터센터 공간이나 전력을 임대하는 경쟁사들과 달리 비용 구조, 구축 속도, 성능 최적화 등 모든 측면에서 압도적인 통제력을 갖고 있는 것이다. 

수직 통합 구조 덕분에 크루소는 환경적, 경제적 골칫거리였던 좌초 에너지를 막대한 가치를 지닌 AI 컴퓨팅 파워라는 디지털 자산으로 변환하는 전략적 연금술을 펼칠 수 있었다. 전력망 불안정으로 버려지는 ‘출력제어(curtailment)’ 신재생에너지에도 크루소의 모델이 적용될 수 있을 것이란 관측도 제기된다. 

크루소가 AWS, 애저 같은 하이퍼스케일러들과 성능 및 안정성 측면에서 경쟁하려면 강력한 소프트웨어 계층 구축도 필수적이다. 설립 1년 된 이스라엘 스타트업 아테로(Atero)를 인수한다고 21일 발표한 것도 이 점을 염두에 둔 움직임으로 풀이된다. 

체이스 로크밀러 크루소 공동 설립자 겸 CEO는 “고성능 컴퓨팅 인프라에 대한 아테로의 전문성은 크루소가 GPU 클러스터에서 탁월한 성능, 확장성, 안정성 및 효율성을 제공하는 데 중요한 역할을 할 것”이라며 “메모리 활용도를 최적화함으로써 고객이 적시에 데이터를 확보, GPU 활용률을 극대화할 수 있다”고 강조했다. 

아테로는 2024년 설립, 인수 전까지 스텔스 모드로 운영되던 기술 기업이다. AI 워크로드를 위한 저수준(low-level) GPU 관리 및 메모리 최적화 기술에 특화된 솔루션을 제공한다. 

특히 LLM 추론과 같이 까다로운 작업에서 GPU 활용률, 효율성, 안정성을 극적으로 향상시킬 수 있다는 게 크루소 측 설명이다. 데이터가 적시에 최적의 위치에 있도록 메모리 활용을 최적화함으로써 값비싼 GPU가 유휴 상태에 빠지는 것을 방지하고 하드웨어의 가치를 극대화하는 것이 핵심이다. 

수직 통합 AI 인프라 전략에도 속도가 붙을 전망이다. 알론 야리브(Alon Yariv) 아테로 CEO는 “수직 통합이 AI 인프라 시장의 미래라는 크루소의 비전에 동의한다”고 밝히며, 이번 인수가 크루소의 핵심 전략과 관련 있음을 시사했다. 그는 “우리 팀의 전문성으로 세계적 수준의 관리형 AI 서비스를 구축하는 데 기여할 것”이라고 했다. 

아테로 인수는 단순히 GPU만 확보해 제공하는 시대가 저물고 있다는 시그널로도 받아들여진다. ‘누가 동일한 하드웨어에서 더 많은 연산을, 더 저렴하고 효율적으로 뽑아내는가’라는 소프트웨어 최적화 역량의 중요성이 점차 커지는 추세다.

AI 인프라 산업은 엔비디아, 아마존, MS, 구글, 메타 같은 빅테크들이 각축을 벌이는 치열한 전쟁터다. 이런 환경 속에서 AI라는 새로운 변화를 포착, 기회를 발견하고 빠르게 성장해 왔다는 건 크루소의 놀라운 경쟁력을 증명한다.

좌초되거나 낭비되는 에너지를 활용해 구조적인 비용 우위는 물론 ‘지속 가능한 AI’라는 강력한 브랜딩을 확보했고, 수직 통합 전략으로 에너지-데이터센터-클라우드에 이르는 전체 기술 스택을 통제, 비용과 구축 속도에서 경쟁에서도 우위를 구축했다. 

이는 AI 인프라 관련 전력 수요 급증을 맞이하고 있는 한국에도 시사하는 바가 크다. 산업통상자원부에 따르면 국내 데이터센터의 전력 수요는 2022년 1.76GW에서 2029년 49.4GW로 28배 가까이 급증할 전망이다. 특히 수도권의 경우 전력 공급에 심각한 부담을 줄 수 있는 변화가 다가오고 있다.

다른 한편에서는 전력망 불안정과 공급 과잉을 이유로 풍력, 태양광 등 신재생에너지 발전소의 가동을 강제로 멈추는 출력제어가 심각한 문제로 대두된다. 특히 제주도에서는 생산된 청정에너지가 그대로 버려지는 일이 빈번하게 발생한다. 이는 막대한 경제적 손실과 신재생에너지 투자 위축을 야기할 수 있는 문제다. 

크루소처럼 이런 문제를 해결해야 할 골칫거리가 아니라 AI 시대를 선도하는 ‘기회’로 전환하려는 노력이 필요하다. 버려지는 청정에너지는 AI 모델 훈련과 같이 막대한 전력을 소비하지만, 지연시간(latency)에 상대적으로 덜 민감한 컴퓨팅 작업에 활용 가능한 저비용 에너지원이 될 수 있다. 

기술 기업들은 수도권의 부족한 전력을 두고 경쟁하는 대신 크루소처럼 ‘에너지 우선’ 전략을 채택, 부지 선정에 활용해야 한다. 전력 잉여 지역, 신재생에너지 조달이 용이한 지역을 차세대 데이터센터 부지로 선정, 선제적으로 구축하면 장기적인 비용 경쟁력을 확보하고 ESG 경영을 실현할 수 있다. 

규제 샌드박스 도입, 신재생에너지 연계 인허가 간소화 등 정부의 정책 지원도 필요하다. AI 인프라 경쟁은 이미 기술 경쟁을 넘어 전력 공급 한계라는 물리적 장벽을 풀어야 하는 에너지 경쟁이 되고 있다. 

“컴퓨팅의 미래를 기후의 미래와 정렬시킨다(to align the future of computing with the future of the climate)”는 크루소의 미션은 단순한 투자 유치용 마케팅 구호가 아니다. 한국에도 현실로 다가오는, 미래 기술 산업 전체가 고려해야 할 전략적 제언이 되고 있다.