베슬AI, GTC 2025서 AI 오케스트레이션 기술 공개
인공지능(AI) 통합 플랫폼 기업 베슬AI 가 미국 캘리포니아주 새너제이에서 열린 세계 최대 AI 콘퍼런스 ‘GTC(GPU Technology Conference) 2025’에 참가해 글로벌 시장에서 기술력을 인정받았다.
베슬AI는 이번 GTC에서 엔비디아의 마이크로서비스 인프라스트럭처(NIM) 및 대규모 언어모델 개발 프레임워크 네모(NeMo)와의 통합 사례를 공유했다.
이를 통해 개발자들은 메타의 Llama 3.1 등 다양한 LLM 모델을 빠르게 배포하고, 데이터 큐레이션 및 관리 기능을 효율적으로 활용할 수 있게 됐다.
특히 베슬AI가 보유한 MLOps 및 LLMOps 기반 기술은 AI 모델 학습 및 운영 과정에서 발생하는 인프라 관리 복잡성과 리소스 비효율 문제를 효과적으로 해결하는 솔루션으로 주목받았다.
행사에서 베슬AI는 다양한 산업군의 실제 고객 사례도 중점적으로 소개했다.
GPU 사용 비용을 최대 80% 절감하고, AI 모델 배포 기간을 기존 몇 주에서 수 분으로 단축한 금융·제조·모빌리티 분야 프로젝트는 큰 관심을 끌었다.
특히 기업용 AI 상담 시스템에 검색증강생성(RAG) 기술과 오케스트레이션 에이전트를 적용해 서비스 응답 속도를 20% 향상시키고 상담 품질을 개선한 사례는 실용성과 혁신성을 동시에 보여줬다.
GTC 기간 중 베슬AI는 전략적 글로벌 파트너들과의 네트워킹을 통해 현지 사업 기회를 넓혔다.
미국 현지 사업개발을 총괄하고 있는 오예슬 총괄은 ‘차세대 혁신: 미래 기술을 이끄는 스타트업들’을 주제로 한 패널 세션에 참여해 글로벌 관점에서의 AI 활용 방안과 스타트업의 경쟁력에 대해 논의했다.
안재만 베슬AI 대표는 “이번 GTC 참가는 글로벌 AI 시장에서 베슬AI의 기술력을 알리는 중요한 계기였다”고 언급했다.
이어 “엔비디아와의 협업을 통해 기업들이 다양한 AI 모델을 체계적으로 통합하고 관리하는 오케스트레이션 솔루션을 제공해 산업별 맞춤형 AI 시스템 구축을 가속화하고 기업의 디지털 혁신을 앞당기는 데 기여하겠다”고 밝혔다.
배동현 (grace8366@sabanamedia.com) 기사제보
관련 기사
