2020년대 중반을 지나며 글로벌 IT 인프라 시장은 과거의 그 어떤 기술적 전환기보다도 큰 구조 변화를 맞았습니다. AI 인프라 수요 확대와 하이퍼스케일러(Hyperscaler) 중심의 대규모 투자, 국가 단위 AI 경쟁이 맞물리면서 IT 인프라는 정보기술 자산을 넘어 국가 경쟁력과 기업 경쟁력을 좌우하는 전략 자산으로 자리 잡았습니다.

시장 환경도 이전과 크게 달라졌습니다. GPU(Graphics Processing Unit), 서버, 메모리 같은 핵심 인프라 자원을 확보하기 위한 경쟁이 본격화되면서 공급망 구조와 조달 방식, 가격 체계까지 변화했습니다. 현재 IT 인프라 시장은 이른바 '공급자 우위 시장(Seller's Market)'이 구조적으로 굳어지는 단계에 진입했습니다. 과거에는 필요한 시점에 장비를 구매하는 것이 중요했다면, 이제는 필요한 인프라를 적기에 확보할 수 있는지가 기업 경쟁력의 중요한 요소가 됐습니다. 이러한 변화는 서버와 메모리, 스토리지 시장의 가격에도 직접적인 영향을 미치고 있으며, 기업들의 IT 인프라 투자 전략에도 새로운 변수로 작용하고 있습니다.

이러한 흐름에 맞춰 LG CNS는 AI 시대 IT 인프라 시장에서 나타난 구조 변화와 동향 및 전망, 그리고 기업들의 대응 전략을 단계적으로 살펴보는 4편 아티클로 구성된 시리즈를 준비했습니다. 각 아티클에서는 IT 인프라 시장을 둘러싼 핵심 변화와 주요 이슈를 체계적으로 소개할 예정입니다. 1편에서는 AI 수요 확대가 IT 인프라 시장 구조를 어떻게 변화시켰는지 살펴봅니다.

AI 인프라 수요 증가와 하이퍼스케일러 중심 투자 확대

AI 인프라 수요 증가는 글로벌 IT 인프라 시장의 수요 구조 자체를 바꿔 놓았습니다. 생성형 AI 서비스 경쟁이 본격화되면서 글로벌 빅테크 기업들은 AI 학습과 추론에 필요한 데이터센터와 GPU 인프라 확보에 대규모 투자를 이어갔습니다. 과거에도 대형 데이터센터 투자는 존재했지만, AI 서비스 경쟁력 확보를 위한 인프라 투자가 특정 시기에 집중되면서 시장 수요 구조 자체가 달라졌습니다.

이러한 흐름의 중심에는 하이퍼스케일러가 있습니다. 하이퍼스케일러는 초대형 데이터센터를 기반으로 대규모 컴퓨팅 자원을 직접 구축·운영하는 기업을 의미합니다. 대표적으로 마이크로소프트(Microsoft), 오라클(Oracle), 메타(Meta) 같은 글로벌 빅테크 기업들이 이에 해당합니다.

이들은 AI 서비스 경쟁력 확보를 위해 데이터센터와 GPU 인프라 투자 규모를 지속적으로 확대하고 있습니다. 대표적으로 마이크로소프트와 오픈AI(OpenAI)는 미국 내 초대형 AI 데이터센터 프로젝트인 ‘스타게이트(Stargate)’를 추진하고 있으며, xAI는 대규모 GPU 기반 AI 클러스터인 ‘콜로서스(Colossus)’ 확장에 나섰습니다. 이처럼 대규모 AI 프로젝트가 동시에 추진되면서 AI 인프라 수요도 특정 시기에 집중되는 양상을 보였습니다.

AI 인프라 확보 경쟁은 기업을 넘어 국가 단위 경쟁으로도 확대됐습니다. 최근에는 ‘AI 주권(AI Sovereignty)’이 국가 경쟁력의 핵심 요소로 부상하면서 각국 정부와 기업들이 AI 인프라 확보에 적극적으로 나섰습니다. AI 인프라는 IT 자산을 넘어 산업 경쟁력과 경제 안보를 뒷받침하는 전략 자산으로 자리잡았습니다.

문제는 이러한 수요가 특정 시기에 집중됐다는 점입니다. 하이퍼스케일러와 국가 단위 프로젝트가 동시에 인프라 확보 경쟁에 뛰어들면서 GPU, 서버, 메모리 같은 핵심 자원 수요가 크게 증가했습니다. 반면 제조사들의 공급 능력 확대 속도는 이를 따라가지 못했습니다. 결국 AI 인프라 수요가 시장 공급 능력을 앞지르기 시작했고, 이는 IT 인프라 시장의 수급 균형이 흔들리는 계기가 됐습니다.

공급자 우위 시장으로 재편되는 IT 인프라 시장

AI 인프라 수요 증가가 지속되면서 IT 인프라 시장 구조도 이전과 달라졌습니다. 과거에는 기업들이 필요한 시점에 서버와 스토리지를 비교적 안정적으로 구매할 수 있었습니다. 하지만 AI 수요가 공급 능력을 앞지르기 시작하면서 시장은 점차 공급자 우위 시장으로 재편됐습니다.

특히 AI 서버, GPU, 메모리 같은 핵심 인프라 자원은 일부 대규모 수요처를 중심으로 우선 배정되는 구조가 형성됐습니다. 하이퍼스케일러와 국가 단위 프로젝트가 대규모 물량을 선점하면서 일반 기업들이 필요한 시점에 인프라를 확보하기는 이전보다 어려워졌습니다. 과거에는 가격과 성능을 중심으로 제품을 비교했다면, 이제는 원하는 시기에 장비를 확보할 수 있는지가 중요한 구매 기준으로 자리 잡았습니다.

문제는 AI 수요 증가 속도가 제조사들의 공급 능력 확대 속도를 앞지르고 있다는 점입니다. GPU와 메모리 같은 핵심 부품은 생산 능력을 단기간에 확대하기 어렵습니다. 데이터센터 구축에 필요한 전력과 네트워크, 생산 설비 역시 단기간 내 증설이 쉽지 않습니다. 이에 따라 시장 전반의 수급 불균형이 점차 심화됐습니다.

결국 IT 인프라 시장은 가격 경쟁보다 확보 경쟁이 중요한 시장으로 변화했습니다. 기업들은 인프라 구축 예산을 확보하는 것을 넘어 필요한 인프라를 적기에 확보할 수 있는지까지 함께 고려해야 하는 환경에 놓이게 됐습니다. 이러한 변화는 이후 서버와 메모리 가격 상승, 공급 리스크 확대에도 직접적인 영향을 미치고 있습니다.

메모리 공급 부족과 인프라 확보 경쟁

주요 메모리 제조사들은 AI 산업의 폭발적인 수요에 비해 공급 확대에는 한계가 있다고 보고 있습니다. 삼성전자와 SK하이닉스는 현재의 수급 불균형이 당분간 이어질 것으로 전망했으며, 특히 SK하이닉스는 2026년 DRAM(HBM 포함)과 NAND 생산 물량이 사실상 '풀북(Full-booked)' 상태라고 밝혔습니다. 이는 고성능 메모리를 중심으로 한 공급 부족이 장기화될 수 있음을 보여줍니다.

실제 메모리 가격도 큰 폭으로 상승했습니다. 서버용 메모리 가격은 2025년 하반기 이후 가파른 상승세를 보였으며, DRAM(DDR5)과 NAND(NVMe) 역시 높은 인상률을 기록했습니다. 이는 범용 제품 생산 감소와 고수익 제품 중심의 생산 전략 변화가 맞물린 결과로 분석됩니다. 시장에서는 이러한 가격 상승 기조가 당분간 이어질 것으로 보고 있습니다.

글로벌 메모리 시장을 주도하는 삼성전자, SK하이닉스, 마이크론은 증가하는 AI 수요에 대응하기 위해 생산 역량을 고대역폭 메모리(High Bandwidth Memory, HBM)와 같은 고성능·고수익 제품군 중심으로 재배치하고 있습니다. AI 서버 확산으로 HBM 수요가 급증하면서 제조사들도 생산 우선순위를 변경한 것입니다.

문제는 이러한 변화가 범용 메모리 공급 감소로 이어지고 있다는 점입니다. 제한된 생산 능력 안에서 HBM 생산 비중이 높아질수록 범용 DRAM과 NAND 생산 여력은 줄어들 수밖에 없습니다. 결과적으로 AI 인프라 시장의 공급 부족이 심화되고 있으며, 일반 기업들의 인프라 확보 경쟁도 더욱 치열해지고 있습니다.

IT 인프라 가격 인상과 공급 리스크의 현실화

델 테크놀로지스(Dell Technologies)의 최고운영책임자(Chief Operating Officer, COO) 제프 클라크(Jeff Clarke)는 현재의 공급망 위기 상황을 ‘전례 없는 일’로 규정하며, 전 제품군에 걸친 제조 비용 상승이 불가피할 것으로 전망했습니다. 특히 현재의 메모리 가격 급등은 ‘자사가 통제할 수 있는 범위를 넘어선 수준’임을 공식화했습니다.

실제 부품별 가격 흐름을 살펴보면 2025년 말부터 메모리와 스토리지(NVMe, SSD) 가격이 가파르게 상승했습니다. 2026년 3월 기준 메모리와 NVMe 누적 인상률은 120%를 넘어선 것으로 나타났습니다. 반면 CPU 가격 상승폭은 상대적으로 제한적이었습니다. 이는 IT 인프라 도입 비용 상승이 CPU보다 메모리와 스토리지 가격 변화에 더 큰 영향을 받고 있음을 보여줍니다.

가격 상승과 함께 공급 불확실성도 커졌습니다. 주요 IT 벤더들은 가격 인상뿐 아니라 견적 정책까지 변경하기 시작했습니다. 시스코(CISCO)는 서버와 메모리 제품군의 단가 인상과 함께 기존 승인 견적 재조정 정책을 적용했으며, 일부 벤더들은 기존 승인 견적을 재검토하거나 재가격 책정 대상으로 전환했습니다. 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE)와 레노버(Lenovo) 역시 견적 유효기간 단축과 추가 가격 인상 정책을 적용했습니다.

과거에는 서버와 스토리지 견적의 유효기간이 일반적으로 30일 수준이었으나, 이제는 14일 또는 7일 수준으로 단축되는 사례가 늘어나고 있습니다. 기업으로서는 가격 상승뿐 아니라 공급 일정과 견적 조건 변화까지 함께 고려해야 하는 상황이 됐습니다.

IT 인프라 시장은 이제 공급망과 조달 전략이 중요한 시장으로 변화했습니다. 기업들은 가격뿐 아니라 공급 가능성과 확보 시점까지 함께 고려해야 하는 새로운 환경에 놓이게 됐습니다.

그렇다면 앞으로 IT 인프라 가격은 얼마나 더 오를 수 있을까요? 다음 편에서는 가트너(Gartner), 씨티뱅크(Citibank), 트렌드포스(TrendForce) 등 주요 기관들의 전망을 바탕으로 2026년 IT 인프라 시장 가격 흐름과 주요 변수를 살펴보겠습니다.

📌 오늘의 요약 정리

• AI 인프라 수요 확대와 하이퍼스케일러 중심의 대규모 투자, 국가 단위 AI 경쟁이 맞물리면서 IT 인프라는 국가 경쟁력과 기업 경쟁력을 좌우하는 전략 자산으로 자리 잡았습니다.
• 하이퍼스케일러 중심의 대규모 투자와 국가 단위 AI 주권(AI Sovereignty) 확보 경쟁이 맞물리면서 GPU, 서버, 메모리 같은 핵심 자원 수요가 급증했고, 공급 능력 확대 속도를 앞지르면서 IT 인프라 시장은 공급자 우위 시장(Seller's Market)으로 재편됐습니다. SK하이닉스는 2026년 DRAM·NAND 생산 물량이 사실상 풀북(Full-booked) 상태라고 밝혔으며, 서버용 메모리 가격은 2025년 하반기 이후 누적
• 메모리 제조사들은 생산 역량을 HBM(고대역폭 메모리) 중심으로 재배치하고 있으며, 이에 따라 범용 DRAM과 NAND 공급 감소 및 인프라 확보 경쟁이 더 치열해지고 있습니다.
• IT 인프라 시장은 가격뿐 아니라 공급 가능성과 확보 시점까지 함께 고려해야 하는 시장으로 변화했으며, 공급망과 조달 전략의 중요성이 더욱 커지고 있습니다.

아래 목록을 클릭해 연관 콘텐츠를 확인하실 수 있습니다.

연관 콘텐츠 목록

• 1편 - AI 수요 폭증, 가격 상승 국면에 진입한 IT 인프라 시장
• 2편 - 2026년 IT 인프라 시장 전망, 주요 기관들은 무엇을 주목하고 있을까?
• 3편 - HBM, GPU, 그리고 공급 병목: IT 인프라 가격을 움직이는 핵심 변수
• 4편 - 비즈니스 연속성 확보를 위한 기업의 IT 인프라 조달 전략

^{본 콘텐츠는 저작권법에 의해 보호 받는 저작물로 LG CNS에 저작권이 있습니다.
사전 동의 없이 2차 가공 및 영리적인 이용을 금합니다.}