과학기술정보통신부(부총리 겸 과기정통부 장관 배경훈, 이하 ‘과기정통부’)는 12.18(목) 제2회 과학기술관계장관회의를 통해 「국가AI혁신을 위한 첨단 GPU 확보·배분방향」을 심의·의결하고, 2025년 1차 추가경정예산(약 1.46조원)을 통해 구매한 첨단 그래픽 처리장치(이하, GPU) 약 1만장을 2월부터 순차적으로 산업계(중소·스타트업), 학계·연구계, 국가 차원의 AI 프로젝트 등에 본격적으로 배분할 계획이라고 밝혔다.

정부는 국가 AI 경쟁력 확보와 민간 AI 투자 촉진을 위해 ‘AI 고속도로’ 구축을 핵심 국정과제로 추진해왔으며, ’28년까지 5.2만장 이상의 첨단 GPU 확보를 목표로 정부 구매, 슈퍼컴 6호기, 국가 AI컴퓨팅 센터 구축 등을 추진하고 있다. 특히, 지난 APEC을 계기로 정부의 대규모 AI투자에 민간이 화답하면서 첨단 GPU 26만장을 확보하는 등 범국가적인 AI 인프라 확충이 빠르게 진행되고 있는 상황이다.

이번에 정부가 확보해 나갈 1.3만장의 첨단 GPU는 정부 확보분 5.2만장 중 첫 번째 물량으로, 앞으로 국가적 차원의 시급한 AI 혁신수요에 지원되면서 국내 AI 생태계 활성화에 크게 기여할 수 있을 것으로 기대된다.

【GPU 확보 경과 및 제공일정】

과기정통부는 GPU 확보사업 추진을 위해 지난 7월, 참여사 공모·평가 및 현장실사, 사업비 심의 등을 거쳐 ▲네이버클라우드, ▲카카오, ▲NHN클라우드를 참여사업자로 선정하였으며, 정보통신산업진흥원(이하 NIPA, 원장 박윤규), 참여사업자와 실무협의체를 발족(8월)하고 GPU 확보 및 사업 진행 상황을 점검해왔다.

각 사업자는 총 1.3만장, NVIDIA B200 10,080장, H200 3,056장 규모의 첨단 GPU 확보·구축을 추진 중에 있으며, 정부는 이 중, 1만장을 상회하는 B200 8,160장, H200 2,296장 규모의 GPU를 활용하게 된다. 각 사업자는 GPU 운용을 위한 냉각시스템 구축, 대규모 클러스터링, 최적화 작업 및 베타테스트 등을 거쳐 GPU 구축을 순차적으로 완료해 나갈 계획이다.

특히, 정부 활용분은 각각 510노드(4,080장), 255노드(2,040장) 규모의 클러스터링 형태로 구축될 계획으로 연산 속도 및 처리량이 대폭 향상되고 단일 GPU로는 불가능한 대규모 AI 모델 학습·추론이 가능해지면서 국가 차원의 초대형 AI 워크로드에 안정적으로 대응할 수 있는 기반을 갖추게 된다.

【GPU 배분절차 및 계획】

앞으로 정부가 확보할 첨단 GPU는 지원가능시기 및 물량, 지원사업 별 성격 등을 고려하여 국가 차원의 AI 프로젝트와 산·학·연 등에 전략적으로 배분될 계획이다. 정부는 한정된 GPU 자원이 공정하고 효율적으로 투입될 수 있도록 배분체계를 마련하여 국가 AI 경쟁력 강화 및 AI 생태계 조성을 위한 과제에 우선적으로 지원한다.

먼저, 정부 활용분 1만장 중 가장 먼저 구축이 완료될 H200 2,296장, B200 2,040장*은 산·학·연의 시급한 AI 혁신수요에 대응하여 신속하게 배분한다. 12월 22일부터 ’26년 1월 28일까지 온라인 플랫폼(AIinfrahub.kr)을 통해 산·학·연의 과제를 접수하며, 과제 당 H200 기준 최대 256장(32서버, 최대 12개월), B200 기준 최대 128장(16서버, 최대 12개월)을 지원한다.

* B200 2,040장 중 일부 물량은 국가 AI 프로젝트에 우선 배분 가능

각 과제는 ▲기술·사회적 파급효과, ▲AI 생태계 기여도, ▲수요자 역량·준비도 및 실현가능성 등을 기준으로 전문가 심사를 통해 선정되며, 대형과제(H200 64장 이상(8서버), B200 32장 이상(4서버))의 경우 적격성 인터뷰를 진행한다. 또한, 책임성 확보를 위해 선정된 과제에 대해 성과점검 등을 진행한다. 이용 시 학·연은 무상, 산업계(중소·스타트업)은 시장가격의 약 5~10% 수준의 자부담을 부과하며, 청년기업에게는 추가로 50% 할인을 제공한다.

한편, 이 중 B200 512장에 대해서는 정부 GPU 배분 전 절차·기능 등을 테스트하고 이용자 불편사항 등을 확인하기 위해 사전 베타 테스트를 진행한다. 베타테스트 이용자 모집도 12월 22일부터 온라인 플랫폼(AIinfrahub.kr)을 통해 진행되며 선정된 산·학·연 이용자는 주관기관(NIPA)에 이용 시 불편사항 등을 적극적으로 피드백해야 하는 대신 이용요금은 무상으로 제공된다.

기타 상세한 지원 요건 등은 온라인 플랫폼(AIinfrahub.kr)을 통해 확인할 수 있다. 과기정통부는 향후 정부 GPU 구매사업 진행 경과 및 공모내용 설명 등을 위한 현장 설명회(1.9(금), 코엑스)도 진행할 계획이다.

정부는 이후 확보될 B200 6,120장은 독자AI 파운데이션 모델 프로젝트 등 국가차원의 AI 프로젝트와 산·학·연(단기)에 배분할 예정이다. 과기정통부는 관계부처의 수요조사를 통해 국정과제 이행, 국가 AI 생태계 조성을 위한 국가 프로젝트를 발굴하고, 전문가 등의 사전심사, 과학기술관계장관회의 등의 심의를 통해 선정하여 첨단 GPU를 지원할 계획이다.

< GPU 정부 확보분 구축 물량 및 지원 시기 >

※ 세부 공급일정은 사업자 별 GPU서버 수급, 데이터센터 공사일정 등에 따라 변동 가능

【향후 계획】

정부는 ’26년에도 연구개발 지원을 위한 슈퍼컴 6호기(약 9천장) 구축(’26.6월 목표), 정부 GPU 구매(약 1.5만장) 등을 통해 첨단 GPU를 차질없이 확보해 나갈 계획이다. 또한, ’28년 가동을 목표로 국가 AI컴퓨팅 센터 선정 절차를 조속히 마무리하여 1.5만장 이상의 GPU 확보를 추진할 예정이다.

과기정통부 배경훈 부총리는 “이번에 구축될 첨단 GPU는 AI 고속도로가 본격 가동되는 출발점으로, 우리 연구자·기업들이 세계적 수준의 컴퓨팅 자원을 활용할 수 있게 되었다는 점에서 획기적인 전기를 마련했다”라면서, “앞으로도 현장의 AI혁신을 지원하여 진정한 AI 강국으로 도약할 수 있도록 전력을 다할 것”이라고 강조하였다.