KT DS 가 기업의 AI 도입을 지원하는 ‘ABC랩’ 서비스를 출시했다고 12일 밝혔다.
ABC랩은 기업이 AI 솔루션을 사전 검증(PoC)할 수 있도록 돕는 SaaS(서비스형 소프트웨어) 형태의 MS 애저 기반 서비스다.
ABC랩은 AI 도입 시 발생하는 비용, 보안, 인력 문제 등을 해결하는 데 초점을 맞췄다. PC만 있으면 고성능 GPU 인프라에서 운영되는 생성형 AI 솔루션을 저비용으로 온라인에서 이용할 수 있다.
기업 고객은 ABC랩을 통해 자체 데이터를 활용한 AI 아이디어를 직접 검증하고, AI 적용 가능성과 효과를 미리 평가할 수 있다.
ABC랩의 주요 특징은 ▲다양한 LLM(대규모 언어 모델) 체험 ▲기업 맞춤형 LLM 파인튜닝 ▲강력한 보안 및 데이터 관리다.
한국어 처리에 특화된 KT DS의 자체 오픈소스 모델 ‘ktdsbaseLM’과 챗GPT, 메타의 ‘Llama’ 등 여러 LLM을 제공한다.
또한 고객사의 데이터를 활용한 맞춤형 AI 모델 훈련(파인튜닝) 기능을 지원한다.
보안 강화에도 초점을 맞췄다. 멀티 테넌시 기능을 적용해 데이터 분리를 보장하며, KT 그룹의 엄격한 보안 규정을 준수해 기업의 데이터 및 개인정보 보호를 강화했다.
또한 AI의 환각 현상을 줄이고 정확도를 높이기 위해 RAG(Retrieval-Augmented Generation) 방식을 적용해 정형 및 비정형 데이터를 분석하고 보다 신뢰도 높은 AI 답변을 생성할 수 있도록 했다.
KT DS는 이번 ABC랩 출시를 통해 AI 도입을 고려하는 기업들의 진입 장벽을 낮추고, 성공적인 디지털 전환(DX)을 지원할 계획이다.
김성우 KT DS 기술혁신단장은 “신, 금융, 공공 등 다양한 산업 도메인에서 성공적인 디지털 전환(DX) 경험을 바탕으로 AX 솔루션과 AI 기술 역량을 결합해 AI 도입에 필요한 체계적인 사전 시스템과 플랫폼을 구축했다”고 언급했다.
이어 “높은 투자 비용과 사내 전문가 부재로 AI 도입을 주저하는 기업이라면 ‘ABC Lab’의 온오프라인 PoC가 성공적인 AI 도입에 큰 도움이 될 것”이라고 말했다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.