ChatGPT 이후 AI 하드웨어 부족이 GPU→메모리→CPU→스토리지로 연쇄 확산. 데이터센터 건설 비용 폭등과 공급망 붕괴의 실제 데이터를 공개합니다.
AI 인프라 병목 현상: 릴레이 경주처럼 이어지는 하드웨어 위기
핵심 요약
- 2023년 초: GPU 부족 촉발, 온디맨드 H100 렌탈료 시간당 9달러 이상 상승
- 기존 서버 시장 붕괴: 2023년 서버 출하량 22% 감소, 2018년 수준 이하로 하락
- 2024년 중반: 메모리 부족으로 전환, HBM 생산에 따라 기존 메모리 공급 3배 감소
- 2025년 말: AI 에이전트로 인한 CPU 병목, 인텔 서버 CPU 가격 전년 대비 27% 상승
- 2026년: 대용량 스토리지 부족, HDD 수요 급증으로 전체 생산량 완매
- 데이터센터 건설 비용 폭등: 기가와트당 200억 달러 이상, 터빈 리드 타임 3년
AI 하드웨어 부족, 병목에서 병목으로 이어지다
AI 인프라 부족 현상은 릴레이 경주와 같습니다. 한 구성 요소의 부족이 해결되면 다음 구성 요소가 병목이 됩니다. 가격 데이터가 보여주듯이, 각 파동은 수년에 걸쳐 천천히 진행되며, 기본 비용은 계속 상승합니다.
2023년 초 ChatGPT 출시로 GPU 수요가 폭발했습니다. 온디맨드 Nvidia H100 렌탈 요금이 시간당 9달러를 넘어서며, 구매자들은 GPU 조달에 자본을 집중했습니다. 이러한 단일 목표 집착은 기존 컴퓨팅 시장을 고사시켰고, 2023년 서버 출하량은 2018년 수준 이하로 22% 감소했습니다.
메모리 제조, AI 수익 추구에 방향 전환
18개월 후, 압력은 메모리로 옮겨갔습니다. AI 마진을 쫓기 위해 제조업체들은 고대역폭 메모리(HBM) 생산으로 클린룸과 리소그래피 도구를 전환했습니다.
HBM은 표준 DDR5 기가바이트당 약 3배의 웨이퍼 용량을 소비합니다. 즉, HBM 생산량 1비트당 약 3비트의 기존 메모리 공급량이 사라집니다. 결과는 극적이었습니다. 엔터프라이즈 SSD 계약 가격은 한 분기 만에 80% 상승 했으며, 마이크론은 DRAM 가격이 분기별 60% 초반대 범위로 상승했다고 보고했습니다.
AI 에이전트, CPU 수요를 1:1 비율로 급증시키다
2025년 말에는 AI 에이전트가 서버 CPU를 압박했습니다. 훈련 클러스터는 CPU 1개당 GPU 8개를 사용했지만, 에이전트 워크플로우는 이를 뒤집습니다. 자율 시스템은 코드 컴파일, 도구 호출, 상태 관리에 사이클을 소비하여 비율을 1:1로 밀어붙입니다.
인텔은 서버 CPU 평균 판매 가격(ASP)이 단위 판매량 감소에도 불구하고 전년 대비 27% 상승 했다고 보고했으며, 수십억 달러에 달하는 미충족 Xeon 수요를 언급했습니다.
스토리지 병목, 클라우드 설계자들을 HDD로 퇴행시키다
2026년이 되자, 부족 현상은 대용량 스토리지에까지 미쳤습니다. 테라바이트당 150달러에 달하는 고속 플래시 가격 때문에 클라우드 설계자들은 대규모 훈련 데이터 레이크를 위해 기술 사다리를 내려와 전통적이고 느린 하드 디스크 드라이브(HDD)로 회귀했습니다.
Western Digital과 Seagate는 2026년 니어라인 생산량 전체가 매진되었다 고 확인했습니다.
데이터센터 건설, 가장 큰 병목으로 부상
서버 섀시를 넘어, 가장 빠르게 상승하는 비용은 데이터센터의 물리적 인프라입니다. 데이터센터 건설 비용은 이제 기가와트당 200억 달러 이상이 들며, 전기 시스템이 예산의 절반을 차지합니다. 토지를 제외한 건설 비용은 평방 피트당 1,033달러로 세 배 급증했습니다.
더 심각한 문제는 외부 시스템입니다. 발전기 승압(GSU) 변압기의 평균 리드 타임이 거의 3년에 달합니다. GE Vernova와 Siemens Energy는 2029년까지 터빈 생산량을 모두 판매했고, 주문 장부는 2031년까지 이어지고 있습니다.
채찍 효과: 부족이 과잉으로 바뀌는 순간
Siemens의 배리 파월은 이 이중 구속 상황을 이렇게 설명했습니다:
"하든 안 하든 망하는 상황입니다. 충분히 짓지 않으면 시장 점유율을 잃어 손해를 볼 것이고, 너무 많이 지으면 고정 비용 때문에 손해를 볼 것입니다."
이는 물리적 하드웨어에서의 채찍 효과(Bullwhip Effect) 입니다. 가치 사슬이 수년간의 제조 지연을 겪을 때, 하류의 갑작스러운 수요 충격은 상류에서 거대하고 지연된 과잉 반응으로 증폭됩니다. 한 병목 현상에서 압력을 완화하면 예측 가능한 지연과 함께 다음 구성 요소로 밀려납니다.
20억 달러 이상의 국내 변압기 확장, 차세대 300단 NAND 팹, 그리고 새로운 터빈 생산 라인이 2027년과 2028년에 공급될 예정입니다. 최종 사용자 소프트웨어 수익이 기가와트당 200억 달러 규모의 시설 투자 속도를 따라가지 못한다면, 자본 지출은 전형적인 채찍 효과의 타격을 맞게 될 것입니다.
결론
AI 인프라 위기는 단순한 부족 현상이 아닙니다. 수년 단위의 제조 지연으로 인한 연쇄 병목이 경제 전체에 영향을 미치는 구조적 문제입니다. GPU에서 시작된 파동이 이제 데이터센터 건설 용량까지 미쳤으며, 공급망 정상화까지는 아직 멀었습니다.
Original source: The AI Bullwhip
powered by osmu.app