케이뱅크 LLM 도입, 맞춤형 프라이빗 AI 최초 적용

케이뱅크 가 인터넷은행 최초로 금융 특화 프라이빗 LLM(Large Language Model)을 도입했다고 26일 밝혔다.

이는 지난해 2월 KT·KT클라우드·업스테이지와의 협업을 기반으로 AI 기술 혁신을 강화한 성과다.

프라이빗 LLM은 챗GPT와 같은 공개형 AI 모델과 달리 특정 조직 내부에서만 운영되는 맞춤형 인공지능 언어 모델이다.

금융 산업처럼 보안성과 전문성이 요구되는 분야에서 최적화된 성능을 제공하며, 데이터를 외부로 전송하지 않아 보안성이 뛰어나다.

케이뱅크는 금융 공공기관, 금융학회 등이 발표한 책 1억 권 분량의 방대한 금융 전문 데이터를 학습시켜 금융 도메인 특화 모델을 구축했다.

이 과정에서 금융 지식을 보다 정밀하게 이해하고 정확한 응답을 생성할 수 있도록 사후 학습(Post-training)을 거쳤다.

또한 금융 자격시험 23종에서 추출한 데이터를 바탕으로 평가를 진행해 신뢰도 높은 금융 정보를 제공할 수 있도록 성능을 검증했다.

이번 프라이빗 LLM 도입을 통해 케이뱅크 는 내부 업무 혁신과 대고객 AI 서비스 확장을 동시에 추진할 계획이다.

내부적으로는 사내 규정 및 정보 검색을 자동화하고, AI 기반 자동 보고서 생성 기능을 도입해 업무 생산성을 높인다.

또한 고객 서비스 측면에서는 AI 기반 금융 상담 기능과 AI 에이전트(가상 비서) 도입을 검토 중이다.

케이뱅크 관계자는 “금융 산업은 높은 보안성과 전문적인 역량을 요하는 만큼 프라이빗 LLM의 활용도가 높다”며 “앞으로도 AI 혁신을 통해 비즈니스 영역을 확장하고 업무 생산성을 강화하며 ‘AI Powered Bank’로 거듭나겠다”고 밝혔다.

다른기사보기

배동현 (grace8366@sabanamedia.com) 기사제보