엔비디아 H200 도입…KT클라우드 AI 인프라 강화

KT클라우드는 인공지능(AI) 인프라 성능 강화를 위해 서비스형 그래픽처리장치(GPUaaS)에 엔비디아 H200 을 적용한다고 24일 밝혔다.

이를 통해 국내 공공기관 및 AI 스타트업에 최적화된 고성능 AI 인프라를 제공할 계획이다.

KT클라우드는 AI 학습 및 추론 영역에 맞춰 GPU 자원을 탄력적으로 활용할 수 있는 GPUaaS 서비스를 운영 중이다.

△대용량 GPU 공급이 필요한 AI 학습 특화 서비스 ‘AI Train’ △소규모 GPU를 안정적으로 공급하는 추론 서비스 ‘AI SERV’ 등 다양한 엔비디아 기반 상품 라인업을 구축해 고객의 요구에 대응해왔다.

이번에 적용되는 엔비디아 H200은 기존 H100 대비 연산 처리 속도와 전력 효율성이 개선된 최신 GPU다.

메모리 대역폭이 넓어져 대규모 AI 학습 및 추론 환경에서 성능 향상이 기대된다.

KT클라우드는 AI Train 서비스에 H200을 도입해 GPU 기반 AI 모델 훈련 속도를 더욱 높일 계획이다.

KT클라우드는 GPU 외에도 신경망처리장치(NPU) 영역에서도 인프라 확장을 진행 중이다.

리벨리온과 협력해 추론 전용 인프라인 ‘AI SERV NPU’를 운영하고 있으며, 오는 5월 출시되는 리벨리온 ‘아톰 맥스’를 적용해 소형언어모델(sLM)용 NPU 성능 검증을 추진한다.

또한, 미국 반도체 기업 암페어(Ampere)와의 협력을 검토하는 등 AI 반도체 사업 확장을 위해 글로벌 기업과의 협력도 강화할 방침이다.

올 하반기에는 공공기관을 대상으로 추론 전용 AI 상품의 CSAP 인증 절차를 진행하며, 공공 AI 수요에도 적극 대응할 계획이다.

공용준 KT클라우드 클라우드본부장은 "이번 엔비디아 H200 도입을 통해 글로벌 수준의 AI 인프라를 확보하며 AI 클라우드 사업자로서의 역량을 한층 높일 수 있게 됐다"고 언급했다.

이어 "향후 인프라 뿐 아니라 AI Ops 등 AI 서비스 포트폴리오를 강화하고, AI 기술 경쟁력을 높이며 다양한 고객 니즈를 맞춰 나가겠다"고 말했다.

다른기사보기

배동현 ([email protected]) 기사제보