KB국민은행 이 인공지능(AI) 기술의 신뢰성과 투명성을 확보하고, 금융소비자 보호를 강화하기 위해 AI 거버넌스 를 수립했다고 13일 밝혔다.
AI 거버넌스는 AI 서비스 활용 시 윤리적·법적 책임을 준수하기 위한 체계적인 관리 시스템이다.
KB국민은행 은 AI 활용이 증가하면서 발생할 수 있는 위험을 사전에 관리하기 위해 2022년부터 AI 거버넌스 구축을 준비해왔다.
이번 AI 거버넌스는 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리정책 ▲금융소비자 보호 등 4가지 핵심 요소로 구성됐다.
우선 ‘AI 윤리기준 및 조직문화’와 관련해 모든 임직원이 AI 윤리교육을 정기적으로 이수하도록 했으며, AI 개발자는 별도의 개발 가이드 교육을 통해 윤리적 책임을 강화하도록 했다.
‘위험평가 프레임워크’는 AI 서비스의 위험도를 ▲허용불가 ▲고위험 ▲중위험 ▲저위험의 4단계로 분류해 관리하는 체계다.
특히 금융시장 건전성을 해칠 가능성이 있거나 기본권을 침해할 우려가 있는 AI 서비스는 ‘허용불가’ 등급으로 지정해 도입 자체를 제한한다.
‘생애주기별 위험관리정책’은 AI 서비스의 기획부터 운영, 사후관리까지 전 과정에서 ▲위험요소 검토 ▲데이터 신뢰성 점검 ▲모델 성능 및 공정성 평가 ▲정기 모니터링 등을 포함해 지속적인 관리가 가능하도록 설계됐다.
또한 ‘금융소비자 보호’를 위해 AI 활용 사실을 고객에게 고지하고, AI 서비스 거부 권리를 보장하는 한편, 설명 의무 및 민원 대응 절차를 마련해 소비자의 권익을 보호할 방침이다.
KB국민은행은 AI 거버넌스의 운영을 총괄할 최고 의사결정 기구로 ‘AI윤리위원회’를 설치했다.
이 위원회는 고위험 AI 서비스 승인, 윤리 기준 및 위험관리 정책 수립 등의 역할을 수행하며, AI의 윤리적 활용과 금융시장 건전성을 유지하는 데 중추적인 역할을 할 예정이다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.