[커버스토리]AI 투자금이 ‘챗봇’에서 ‘전력·반도체’로 이동한다…다음 승자는 누구인가
생성형 AI 열풍의 초반부가 더 크고 똑똑한 모델을 만드는 경쟁이었다면, 지금의 시장은 그 모델을 실제로 돌릴 수 있는 인프라를 확보하는 경쟁으로 빠르게 이동하고 있다. 투자자들이 주목하는 대상도 챗봇과 소프트웨어에서 반도체, 전력 효율, 데이터센터, 냉각, 광통신처럼 AI의 물리적 기반을 구성하는 산업으로 넓어지고 있다.
국내 벤처투자에서도 이런 변화가 나타난다. 8월 셋째 주 100억원 이상 투자 유치 4건 가운데 3건이 반도체·소재·산업현장 AI 등 하드웨어 기반 딥테크 분야에 집중됐고, 초저전력 AI 반도체 팹리스 아이에이치더블유(iHW)는 시리즈A에서 520억원을 유치했다. 2024년 설립된 초기 기업이라는 점을 감안하면 적지 않은 규모다.
이 흐름이 의미하는 것은 단순하다. AI 시장의 다음 병목이 “더 좋은 모델을 만들 수 있는가”에서 “그 모델을 얼마나 싸고 안정적으로 돌릴 수 있는가”로 옮겨가고 있다는 뜻이다. 생성형 AI의 이용자가 늘고 AI 에이전트가 실제 업무를 수행하기 시작할수록 연산량은 폭발적으로 증가하고, 그 부담은 결국 GPU와 메모리, 전력, 냉각, 네트워크에 집중된다.
AI의 다음 전장은 ‘연산 비용’이다
AI 산업은 지금까지 모델의 크기와 성능을 중심으로 성장해왔다. 더 많은 데이터를 학습하고 더 많은 매개변수를 가진 모델을 만들수록 성능이 높아졌고, 시장은 자연스럽게 대형 AI 모델 개발사와 GPU 기업에 집중됐다.
하지만 모델이 실제 서비스 단계로 넘어가면 이야기가 달라진다. 수백만명이 동시에 질문을 던지고, AI가 한 번의 요청을 처리하기 위해 여러 차례 추론과 검색, 외부 시스템 접속을 반복하면 연산량은 기하급수적으로 늘어난다. 모델 하나를 잘 만드는 것보다, 그 모델을 24시간 안정적으로 서비스하는 비용이 더 중요한 문제가 되는 것이다.
이 때문에 최근 투자자들은 단순히 연산 성능이 높은 칩보다 전력당 성능이 얼마나 높은가를 중요하게 보기 시작했다.
아이에이치더블유가 520억원 규모의 투자를 받은 것도 이런 흐름과 연결된다. 이 회사가 개발하는 ‘인퍼트론’은 메모리에 저장된 가중치를 데이터 이동 없이 직접 연산하는 아날로그 인메모리 컴퓨팅 방식을 활용해 전력 소모와 연산 지연을 낮추는 것을 목표로 한다. 외부 D램 없이 단일 칩으로 구동할 수 있고, 최신 선단공정이 아닌 성숙공정에서도 생산할 수 있다는 점도 회사 측이 내세우는 특징이다.
투자자 입장에서 이런 기술이 매력적인 이유는 분명하다. AI 시장이 커질수록 가장 비싼 비용 중 하나가 전력과 냉각이 되기 때문이다.
GPU를 사도 전력이 없으면 AI는 멈춘다
AI 인프라 경쟁에서 GPU는 여전히 핵심이지만, GPU만 확보한다고 경쟁력이 생기는 것은 아니다.
고성능 AI 서버는 막대한 전력을 사용하고, 동시에 많은 열을 발생시킨다. 데이터센터가 커질수록 필요한 전력량도 빠르게 늘어나며, 전력을 공급할 송전망과 변전설비, 장비를 식히는 냉각 시스템까지 함께 갖춰야 한다.
결국 AI 데이터센터는 서버가 아니라 하나의 거대한 에너지 시설에 가까워지고 있다.
정부가 AI 데이터센터를 국가 전략 산업으로 별도로 다루는 것도 이런 이유다. 과학기술정보통신부는 지난 7월 SK텔레콤과 네이버클라우드, LG전자, 카카오 등 약 400개 기업·기관이 참여하는 ‘AI 데이터센터 얼라이언스’를 출범시켰다. 정부는 수요·공급·기반 분야를 중심으로 민관 협력을 강화하고, 대규모 AI 데이터센터 구축과 관련 산업의 수출산업화를 추진한다는 계획이다.
정부 구상에는 장기적으로 18.4GW 규모의 대규모 AI 데이터센터 구축도 포함돼 있다. 이는 데이터센터가 더 이상 IT기업 몇 곳의 시설 문제가 아니라 전력망과 산업정책, 지역개발까지 함께 고려해야 하는 국가 인프라가 됐다는 의미다.
AI 기업 입장에서는 이 변화가 새로운 비용 구조를 만든다.
GPU 가격이 내려가더라도 전력비와 냉각비가 계속 증가하면 전체 운영비는 쉽게 줄지 않는다. 반대로 같은 성능을 더 적은 전력으로 구현하는 기술을 확보하면 AI 서비스의 원가 경쟁력이 크게 높아질 수 있다.
그래서 반도체 산업에서도 단순한 ‘고성능’보다 ‘저전력’이 중요한 투자 키워드로 떠오르고 있다.
돈은 모델보다 ‘병목’을 향해 움직인다
투자자들은 대개 산업의 병목이 어디에 생기는지를 본다.
인터넷 산업 초기에 네트워크와 서버가 부족했다면, 모바일 시대에는 통신망과 스마트폰 반도체가 핵심이 됐다. 생성형 AI 시대에는 그 병목이 GPU와 메모리에서 시작해 전력과 냉각, 데이터센터, 광통신으로 확장되고 있다.
최근 국내 벤처투자에서 하드웨어와 딥테크 비중이 커지는 것도 이와 무관하지 않다.
8월 셋째 주 대형 투자 가운데 반도체·소재·산업현장 AI 기업이 다수를 차지했고, iHW 투자에는 기존 벤처캐피털뿐 아니라 한국산업은행과 LIG디펜스앤에어로스페이스까지 참여했다. 정책금융기관과 전략적 투자자가 함께 들어왔다는 점은 AI 인프라 기술이 단순한 스타트업 영역을 넘어 국가 산업 경쟁력의 문제로 인식되고 있음을 보여준다.
특히 엣지 AI 시장에서는 전력 효율의 중요성이 더 크다.
데이터센터처럼 대규모 냉각설비를 갖추기 어려운 로봇과 자동차, 산업장비, 드론 등에서는 소비전력과 발열이 곧 제품 경쟁력으로 이어진다. AI가 클라우드 안에서만 작동하는 것이 아니라 실제 기기 안으로 들어가기 시작할수록, 초저전력 반도체와 고효율 연산 구조에 대한 수요는 더 커질 가능성이 있다.
이는 한국 기업에도 기회가 될 수 있다.
한국은 메모리반도체와 전력기기, 배터리, 냉각장비, 통신 인프라 등 AI 데이터센터와 연결되는 산업 기반을 이미 갖고 있다. AI 모델 자체에서는 미국 빅테크와 격차가 크더라도, 그 모델을 돌리는 공급망에서는 경쟁력을 확보할 여지가 있다는 뜻이다.
다음 승자는 ‘가장 똑똑한 AI’보다 ‘가장 싼 AI’를 만드는 기업일 수 있다
AI 산업의 승자가 반드시 최고의 모델을 만드는 기업일 것이라고 단정하기는 어렵다.
기술이 상향 평준화될수록 경쟁의 기준은 성능에서 비용으로 이동할 수 있기 때문이다.
비슷한 수준의 답변을 제공하는 AI가 여러 개 등장한다면 기업과 소비자는 결국 더 빠르고, 더 안정적이며, 더 저렴하게 사용할 수 있는 서비스를 선택하게 된다. 그 과정에서 데이터센터 전력 효율과 반도체 성능, 냉각비용, 네트워크 최적화가 서비스 가격을 결정하게 된다.
이 변화는 투자자에게도 중요한 신호다.
AI라는 이름이 붙은 모든 기업이 같은 방식으로 성장하는 것은 아니다. 모델 개발사는 막대한 연구개발비와 GPU 비용을 감당해야 하고, 데이터센터 사업자는 전력과 부지 문제를 해결해야 하며, 반도체 기업은 성능과 전력 효율을 동시에 끌어올려야 한다.
어떤 기업이 실제로 AI 수요 증가의 수혜를 받을지는 결국 그 기업이 AI 산업의 어느 병목을 해결하는지에 달려 있다.
특히 지금처럼 AI 투자 규모가 빠르게 커지는 시기에는 ‘수요가 존재하는가’보다 ‘어디에서 공급 부족이 발생하는가’를 보는 것이 중요하다.
GPU 부족이 완화되면 다음 병목은 전력으로 이동할 수 있고, 전력 문제가 해결되면 냉각과 네트워크가 새로운 제약이 될 수 있다. 산업의 수익은 이런 병목을 먼저 해결하는 기업에 집중될 가능성이 크다.
AI 투자 열풍이 챗봇과 모델 경쟁을 넘어 반도체와 전력, 데이터센터로 이동하는 이유도 여기에 있다.
결국 다음 AI 승자는 가장 거대한 모델을 만든 기업이 아니라, 같은 AI를 더 적은 전력과 더 낮은 비용으로 더 오래 돌릴 수 있게 만드는 기업일 수 있다.
생성형 AI 경쟁의 무대는 이제 화면 속 챗봇에서 데이터센터와 전력망, 반도체 공장으로 옮겨가고 있다.
투자금 역시 그 방향을 따라 움직이기 시작했다.
