"대한민국 대도약 3대 메가프로젝트" - 한반도가 들썩인다. 삼성전자와 SK하이닉스는 HBM과 D램 수요를 등에 업고 한국 경제 구원투수로 소환된다. 정부는 반도체와 AI 데이터센터를 국가 성장전략으로 추켜세웠고, 시장은 수백조 수천조 투자계획을 미래 먹거리로 포장한다.
미국 AI 설비투자에 올라탄 코스피
한국 증시도 AI 슈퍼사이클의 한복판에 서 있다. 슈퍼 랠리, 불붙은 코스피, 파죽지세 상승장…. 날마다 증권시장을 표현하는 새로운 수식어가 탄생한다. 그런데 이건 지속 가능한 걸까? 정확히 말하면 이 모든 들썩임은 아래의 가정이 옳다는 확신 위에 서 있다.
"하이퍼스케일러의 AI 자본 지출은 계속 증가할 것."
"따라서 HBM, DRAM, 데이터센터 수요도 계속 증가한다."
여기서 하이퍼스케일러(hyperscaler)란 초대형 클라우드, 데이터센터, 네트워크 기업들을 말한다. 대표적으로 아마존 AWS, 오라클, 메타, 마이크로소프트 애저(Azure), 구글 클라우드 같은 미국 회사들이다. AI 데이터센터에는 GPU, 서버, 전력, 냉각 시스템 등 다양한 설비가 들어간다.
챗GPT, 클로드(Claude) 같은 생성형 AI 연산에 GPU가 필요하다는 점은 잘 알려져 있다. 그런데 이들 AI 모델의 크기가 엄청나다. 매개변수(parameter), 행렬 연산, 학습 데이터, 중간 계산값 등등. AI 연산을 위해서는 GPU에 빠른 속도로 데이터를 공급해줘야 한다.
여기서 등장하는 게 고대역폭 메모리 HBM이다. 여러 장의 DRAM 칩을 수직으로 쌓고 GPU 옆에 붙여서 데이터를 아주 넓은 통로로 빠르게 주고받는다. AI 서버와 데이터센터 수요가 늘면 GPU만이 아니라 HBM, D램 수요도 같이 늘어나는 이유가 여기에 있다.
GPU 개발·생산은 엔비디아(NVIDIA) 독점인데 그렇다면 HBM과 D램 시장은? 삼성전자와 SK하이닉스, 그리고 미국의 마이크론(Micron), 전 세계적으로 3개 회사가 90% 이상을 장악한 과점 상태다. 젠슨 황이 한국에 와서 치킨을 먹고 삼겹살을 굽는 데에도 이유가 있었던 것이다.
메타의 '잉여 컴퓨트'가 던진 질문
그러던 중 1주일 전 갑자기 메타(Meta)가 '잉여 컴퓨트(excess AI compute)' 판매를 위한 클라우드 사업을 검토한다는 보도가 나왔다. 여기서 컴퓨트(compute)란 연산능력, AI 모델을 학습시키거나 실행하기 위해 필요한 데이터센터의 계산 자원을 의미한다. 앤트로픽(Anthropic)이나 오픈AI 같은 생성형 AI 기업들은 하이퍼스케일러 회사로부터 '컴퓨트'를 사거나 임대한다.
증권가와 애널리스트들은 처음에는 이를 긍정적으로 해석한다. "AI 투자비를 회수할 길이 생겼다." "메타가 AI 클라우드 사업자로 진입한다." "유휴 자산을 수익화한다." 이 발표 직후 메타 주가도 오르고 경쟁자인 코어위브(CoreWeave), 네비우스(Nebius) 같은 네오클라우드 기업 주가는 떨어졌다.
하지만 누군가 이런 질문을 던진다. "AI 데이터센터 수요가 폭증한다면, 어째서 메타에 '잉여 컴퓨트'가 있는가?" 물론 메타는 자신이 개발 중인 AI 제품을 위해 컴퓨트를 사용해왔다. 그렇다면 메타는 단순히 내부 수요 계산을 잘못한 것이었을까. "자기 AI 제품에 다 쓸 수 없다면, 메타가 지은 컴퓨트 용량은 누구를 위한 것이었나?"
질문은 꼬리를 물고 이어진다. 메타의 잉여 컴퓨트를 살 수 있는 고객은 오픈AI와 앤트로픽 말고 누가 있을까? 메타의 움직임은 신사업(클라우드) 진출이 아니라 하이퍼스케일러 과잉공급의 전조처럼 읽히기 시작한다. AI 컴퓨트 공급이 생각보다 너무 많이 시장에 풀리고 있는 게 아닐까?
토큰플레이션(tokenflation) : 에이전트 AI의 비싼 청구서
AI 불패 신화의 균열은 공급 측면만이 아니라 수요 측면에서도 발생한다. 작년 12월부터 우버는 엔지니어링 조직에 클로드 코드(Claude Code)를 도입했다. 사용률 증가는 폭발적이었다. '에이전트형 코딩 사용자'로 분류된 엔지니어 규모가 올해 2월 32%에서 한 달만인 3월에 84%까지 치솟았고 곧이어 95%, 사실상 모든 엔지니어가 에이전트 AI를 사용하게 된다.
하지만 우리가 주목해야 할 것은 뒤에 숨겨진 숫자들이다. 엔지니어 한 명이 클로드 코드를 사용하는 월 평균 비용은 150~250달러였고, 고사용자는 500~2000달러까지 썼다. 우버 CTO인 프라빈 나가(Praveen Naga)도 개인 시연을 위한 2시간짜리 세션에서 1200달러(180만 원)를 태웠다. 결국 우버는 AI 사용에 배정된 1년 예산을 올해 4월에 모두 소진시키고 말았다.
이유는 토큰 사용량에 따라 사용 요금을 매기는 클로드 코드 과금 방식에 있었다. 일반인이 사용하는 챗봇, 즉 묻고 답하는 방식이라면 소비량이 크지 않지만 '에이전트 AI'는 문제가 다르다. 에이전트 모드는 "목표 → 계획 → 파일 읽기 → 코드 검색 → 도구 호출 → 수정 → 테스트 → 실패 → 재시도 → 다시 파일 읽기 → 다시 수정"으로 돌아간다.
이때 각 단계마다 입력 토큰과 출력 토큰이 발생하는데 특히 무서운 것은 입력 토큰이다. 코딩 에이전트는 파일, 오류 메시지, 테스트 결과, 추론, 수정 내역을 계속 입력 맥락에 넣는다. 한 번 파일을 읽으면 그 파일 1만 토큰이 그 순간만 소비되는 게 아니라 다음 판단 단계들에서 계속 재소비된다.
오픈AI가 토큰 단가 인하를 검토한다는 뉴스도 나오지만, 에이전트형 업무가 확산됨에 따라 총 토큰 소비와 비용이 인플레이션처럼 불어나니 가히 토큰플레이션 시대라 부를만하다. 지금까지 비용 걱정 말라며 AI 사용을 독려하던 빅 테크와 IT 개발사들도 생각을 고쳐먹기 시작한다. "차라리 인간 노동자를 쓰는 게 비용이 덜 들지 않을까?"
AI가 줄인 것은 비용이었나, 품질이었나
마이크로소프트(MS) 역시 작년 12월부터 클로드 코드 접근을 열어 직원들에게 사용을 장려했으나, 올해 5월 들어 라이센스 대부분을 회수하고 자사 모델인 코파일럿(Copilot) CLI로 전환하기 시작했다. 클로드 코드가 일을 제대로 못해서가 아니다. 생산성 증가는 확실했지만 그 못지않게 오르는 토큰 비용도 통제해야 하기 때문이다.
기업들에게 날아오는 청구서는 토큰만이 아니었다. 비용 절감을 위해 AI 활용과 인간 노동력 대체를 강행한 기업 상당수가 서비스 품질 저하를 경험하게 된다. AI가 값싼 비용으로 업무를 대체할 수 있다는 계산은 착각이었고, 곳곳에서 품질 저하 청구서가 날아들고 있다.
차량 품질관리 자동화에 투입한 AI가 기대에 못 미치자 포드(Ford)는 베테랑 기술자 350명을 다시 채용해야 했다. 스웨덴 핀테크 기업 클라르나(Klarna)는 AI 상담봇 사용과 채용 동결을 강하게 밀어붙였으나 지난해 5월 CEO가 블룸버그 인터뷰에서 품질 저하를 인정했고, 고객이 원하면 항상 인간 상담원과 연결될 수 있어야 한다며 인력을 다시 채용하기 시작했다.
미국의 인사·채용 컨설팅 회사 로버트 하프(Robert Half)는 AI 관련 감축으로 인력을 줄인 조직 가운데 29%가 이미 없앴던 직책을 다시 채용했다고 보고했다. IT 리서치·자문회사인 가트너(Gartner)는 2027년까지 AI 자동화를 이유로 고객서비스 일자리를 줄였던 기업 가운데 최소 50%가 동일하거나 유사한 책임을 지는 직원을 다시 채용하게 될 것이라고 전망했다.
손실투성이 AI 모델 기업
GPU나 메모리 반도체는 기업 거래가 중심이지만, 평범한 소비자에게 친숙한 것은 챗GPT나 클로드, 그록(Grok) 같은 AI 모델이다. 그렇다면 이들 모델 기업은 승승장구 하고 있을까? 최근 기록적인 기업공개(IPO)에 성공한 스페이스X에 이어 오픈AI와 앤트로픽도 IPO를 준비 중이다.
성공만 한다면 엄청난 자본금을 끌어모을 수 있겠지만, 최근 오픈AI 감사 재무제표로 보이는 자료가 유출되어 언론에 보도된 내용을 보면 심각하다. 매출도 폭증했지만 비용 증가폭은 더 커서 지난해에만 209억 달러(30조 원)라는 천문학적인 손실을 기록한 것으로 추정된다.
이제 AI 서비스의 수익화 가능성이 의문시되기 시작한다. 이미 기업 고객들은 토큰 비용을 줄이기 시작한다. "파일 전체를 넣지 말라." "긴 에이전트 실행을 제한하라." "저가 모델로 라우팅(routing)하라." "인간 검토 없이 장시간 에이전트를 돌리지 말라." AI 모델 기업들은 사용료를 올리기 어려워지고 사용량 성장률은 둔화할 수 있다.
절대수요보다 무서운 기대 증가율 둔화
엔비디아는 물론이고 삼성전자와 SK하이닉스는 여전히 건재하다. 하지만 최근 슈퍼 랠리의 전제는 AI 모델 기업들이 파죽지세처럼 뻗어나갈 것이라는 가정, 즉 AI 데이터센터 수요가 폭증할 것이라는 가정이었는데 이게 흔들리기 시작한다.
오해 없으시길. 절대 수요가 줄어든다는 것이 아니다. 기대했던 증가분이 사라진다는 얘기. 문제는 현재 이들 기업의 가치는 앞으로 3~4년은 거뜬히 증가할 것이라는 기대 위에 형성된 것이다. 그게 거품 아니냐고? 질문이 잘못되었다. 현대 주식시장은 모두 '미래 가치'라는 불확실한 거품 위에 서 있는 것 아니었나.
문제는 그 기대라는 것이 몇 가지 연속된 가정에 기초해 있다는 점이다. "모든 기업들이 미친 듯이 AI를 사용할 것이다." "AI 모델 기업들은 승승장구할 것이다." "더 좋은 모델을 위해 끊임없이 AI 데이터센터를 지을 것이다." "데이터센터에 들어갈 GPU, HBM, D램 수요는 앞으로도 몇 년은 간다."
이들 가정 중 어느 하나만 흔들려도 이 기대는 모래 위에 쌓은 성이 된다. 메타의 잉여 AI 컴퓨트 판매는 일종의 신호탄이다. 이를 계기로 하이퍼스케일러 기업들이 자본지출(Capex) 계획을 축소하기 시작한다면? 지출 둔화가 엔비디아와 서버 업체, 네트워크 장비 업체에 영향을 미친다면? 그 영향으로 HBM, D램 장기계약이 흔들리기 시작한다면? 메모리 반도체 가격도 흔들리고 삼성전자, SK하이닉스 이익 전망도 낮아진다면?
들어맞지 않기를 바라는 시나리오
1만을 향해 달리는 코스피 지수의 절반 이상이 삼성전자와 SK하이닉스 효과라는 사실은 주식 초보자도 아는 사실이다. 그렇다면 질문은 단순하다. 한국 증시는 지금 AI 신화의 수혜자인가, 아니면 미국 빅테크 설비투자 사이클에 가장 민감하게 반응하는 고베타(high beta) 시장인가.
물론 이 시나리오가 그대로 들어맞기를 바라는 사람은 없을 것이다. <인사이드경제> 역시 마찬가지다. 하지만 거품은 기술이 쓸모없을 때만 생기는 것이 아니다. 오히려 유용한 기술일수록, 그 유용성이 모든 가격과 모든 투자와 모든 미래를 한꺼번에 정당화해줄 것처럼 믿어질 때 거품은 무럭무럭 성장한다.
지금 필요한 것은 AI에 대한 냉소가 아니다. 더 정확한 질문이다. 누가 컴퓨트를 사는가. 누가 그 비용을 감당하는가. 그 비용은 실제 생산성 향상으로 회수되는가. 그리고 그 연쇄 가정 중 하나가 흔들릴 때, 그 충격은 어디에 가장 먼저 도착하는가.
그 답이 삼성전자와 SK하이닉스, 그리고 한국 경제라면 우리는 지금의 슈퍼 랠리를 조금 다른 눈으로 바라봐야 한다. 다만 모두가 축배를 들 때, 누군가는 잔 밑에 생긴 금도 살펴야 한다. <인사이드경제>의 역할은 언제나 악역이다. 닥터 둠, 모두가 불꽃놀이를 올려다볼 때 발밑의 전선이 과열되지 않는지 의심하고 또 의심하는 역할 말이다.
구글에서 프레시안을 더 자주 만나기
전체댓글 0