서론: 국가 AI 경쟁력 강화를 위한 컴퓨팅 인프라의 중요성
인공지능 기술이 국가 경쟁력의 핵심 요소로 자리 잡은 현재, 고성능 컴퓨팅 인프라는 AI 혁신의 기반이 되고 있습니다. 특히 대규모 언어 모델(LLM)과 생성형 AI의 등장으로 컴퓨팅 자원의 중요성이 그 어느 때보다 부각되고 있습니다. 이러한 배경에서 과학기술정보통신부와 정보통신산업진흥원이 추진하는 2025년 고성능 컴퓨팅 자원 지원 사업은 국내 AI 생태계 발전을 위한 중요한 촉매제 역할을 할 것으로 기대됩니다.
이 글에서는 2025년 고성능 컴퓨팅 자원 지원 사업의 주요 내용을 살펴보고, 현대 AI 연구에 필수적인 GPU와 NPU의 성능 지표를 분석하며, 이를 통해 앞으로의 AI 하드웨어 발전 방향에 대해 고찰해보고자 합니다.
2025년 고성능 컴퓨팅 지원 사업 개요
과학기술정보통신부와 정보통신산업진흥원이 공고한 2025년 고성능 컴퓨팅 지원 사업은 인공지능 연구·개발을 위한 연산 자원을 중소·벤처 기업, 창업기업, 대학교 등에 제공함으로써 국내 AI 산업의 경쟁력을 강화하는 것을 목표로 합니다.
이 사업은 크게 두 가지 트랙으로 나뉩니다:
- GPU 자원 지원: 약 500개 기업 및 기관에 39TF, 67TF, 134TF급 GPU 서버 각 1식 지원
- 국산 AI반도체(NPU) 활용 자원 지원: 약 200개 기업 및 기관에 60TOPS, 120TOPS, 240TOPS급 NPU 서버 각 1식 지원
특히 주목할 점은 지원되는 GPU의 성능 수준입니다. 134TF급 GPU는 현재 시장에서 최고 수준의 AI 가속기인 NVIDIA H100 또는 H200에 상응하는 성능을 제공할 것으로 예상됩니다.
현대 AI 가속기의 성능 지표 이해하기
FLOPS와 TOPS: AI 가속기 성능의 척도
AI 가속기의 성능을 측정하는 데 사용되는 주요 지표로는 FLOPS(Floating Point Operations Per Second)와 TOPS(Tera Operations Per Second)가 있습니다.
- FLOPS: 초당 부동소수점 연산 수행 능력을 나타내며, GPU의 성능 측정에 주로 사용됩니다. 테라플롭스(TF)는 초당 1조 번의 부동소수점 연산을 의미합니다.
- TOPS: 초당 정수 연산 수행 능력을 나타내며, NPU(Neural Processing Unit)의 성능 측정에 주로 사용됩니다. 1 TOPS는 초당 1조 번의 연산을 의미합니다.
NVIDIA H100과 H200의 성능 분석
NVIDIA의 최신 데이터센터 GPU인 H100과 H200은 현재 AI 훈련 및 추론을 위한 최고 성능의 하드웨어로 인정받고 있습니다.
NVIDIA H100 GPU:
- FP32(단정밀도) 연산: 약 120TF
- FP16/BF16(반정밀도) Tensor 연산: 약 1,000TF 이상
- 메모리: 80GB HBM3
- 메모리 대역폭: 3.35TB/s
NVIDIA H200 GPU:
- FP32(단정밀도) 연산: 약 134TF
- FP16/BF16(반정밀도) Tensor 연산: 약 1,979TF
- FP8 Tensor 연산: 약 3,958TF
- 메모리: 141GB HBM3e
- 메모리 대역폭: 4.8TB/s
이러한 성능 지표를 살펴보면, H200이 H100보다 더 높은 성능을 제공함을 알 수 있습니다. 특히 메모리 용량과 대역폭이 크게 향상되어 대규모 언어 모델(LLM)과 같은 메모리 집약적 AI 워크로드에서 더욱 효율적인 성능을 발휘합니다.
정밀도에 따른 AI 연산 성능의 변화
AI 연산에서는 다양한 정밀도의 부동소수점 형식이 사용되며, 사용되는 정밀도에 따라 성능이 크게 달라집니다.
- FP32(단정밀도): 전통적인 과학 계산에 사용되며, 32비트 부동소수점 형식입니다.
- FP16/BF16(반정밀도): 딥러닝 훈련에 널리 사용되며, 16비트 부동소수점 형식입니다.
- FP8(8비트 부동소수점): NVIDIA의 최신 GPU에서 지원하는 형식으로, 초대형 AI 모델 훈련의 효율성을 높이기 위해 설계되었습니다.
- INT8(8비트 정수): 주로 추론 과정에서 사용되며, 모델 크기를 줄이고 연산 효율성을 높이는 데 도움이 됩니다.
정밀도가 낮아질수록 연산 속도는 빨라지지만 정확도가 감소할 수 있습니다. 그러나 최근의 양자화 기법과 혼합 정밀도 훈련 방법의 발전으로 정확도 손실을 최소화하면서 낮은 정밀도의 이점을 활용할 수 있게 되었습니다.
국산 AI 반도체의 발전과 전망
2025년 고성능 컴퓨팅 지원 사업에서 주목할 만한 또 다른 부분은 국산 AI 반도체(NPU) 활용 자원 지원입니다. 최근 국내에서도 AI 가속기 개발에 대한 투자가 활발히 이루어지고 있으며, 이번 지원 사업은 국산 AI 반도체 생태계 조성에 큰 기여를 할 것으로 기대됩니다.
국산 NPU는 60TOPS, 120TOPS, 240TOPS의 세 가지 성능 레벨로 제공될 예정입니다. 이러한 성능은 특히 AI 추론 워크로드에 적합하며, 국내 기업들이 자체 AI 모델을 개발하고 서비스화하는 데 중요한 기반이 될 것입니다.
AI 하드웨어 발전의 미래 방향
AI 하드웨어 기술은 계속해서 빠르게 발전하고 있습니다. 현재의 추세와 앞으로의 발전 방향에 대해 몇 가지 중요한 점을 살펴보겠습니다.
1. 성능과 효율성의 균형
AI 모델의 규모가 커짐에 따라 컴퓨팅 성능뿐만 아니라 에너지 효율성도 중요한 고려 사항이 되고 있습니다. 최신 GPU와 NPU는 단순히 더 많은 연산을 수행하는 것을 넘어, 와트당 더 많은 연산을 수행할 수 있도록 설계되고 있습니다.
2. 특화된 AI 반도체의 등장
범용 GPU 외에도 특정 AI 워크로드에 최적화된 특화 칩이 계속해서 등장하고 있습니다. 예를 들어, 트랜스포머 아키텍처를 위한 전용 가속기나 희소 행렬 연산에 최적화된 하드웨어 등이 연구 개발되고 있습니다.
3. 메모리 아키텍처의 혁신
현대 AI 모델의 크기가 커짐에 따라 메모리 용량과 대역폭이 성능의 중요한 병목 지점이 되고 있습니다. H200의 HBM3e와 같은 최신 메모리 기술은 이러한 문제를 해결하기 위한 노력의 일환입니다. 향후에는 컴퓨팅 인메모리(Compute-in-Memory) 기술과 같은 혁신적인 아키텍처가 더욱 중요해질 것입니다.
4. 분산 컴퓨팅의 발전
대규모 AI 모델 훈련은 단일 GPU나 서버의 능력을 넘어서고 있습니다. 따라서 효율적인 분산 훈련 기술과 이를 지원하는 하드웨어 및 소프트웨어 인프라의 발전이 필수적입니다. NVIDIA의 NVLink와 같은 고속 상호 연결 기술이 계속해서 발전할 것으로 예상됩니다.
결론: AI 연구와 산업 발전을 위한 인프라 구축의 중요성
2025년 고성능 컴퓨팅 자원 지원 사업은 국내 AI 생태계의 발전을 위한 중요한 발판을 마련할 것입니다. 최고 수준의 GPU와 국산 NPU에 대한 접근성을 높임으로써, 더 많은 기업과 연구 기관이 혁신적인 AI 기술을 개발할 수 있는 기회를 제공할 것입니다.
AI 기술이 사회의 모든 영역에 영향을 미치는 현 시점에서, 고성능 컴퓨팅 인프라는 단순한 기술적 자원을 넘어 국가 경쟁력의 핵심 요소가 되었습니다. 정부의 이러한 지원 사업과 함께, 산학연이 협력하여 AI 하드웨어와 소프트웨어 생태계를 지속적으로 발전시켜 나가는 것이 중요합니다.
특히 국산 AI 반도체 발전을 위한 지원은 장기적인 관점에서 국가 기술 주권 확보와 AI 산업의 지속 가능한 성장을 위해 필수적입니다. 이번 지원 사업을 통해 국내 AI 연구와 산업이 한 단계 도약할 수 있기를 기대합니다.
답글 남기기