카카오가 상반기 중 대화형 인공지능(AI) 앱 ‘카나나’ 베타 테스트 버전을 출시할 수 있을 전망이다. 이에 앞서 개인정보 보호위원회와 협력해 개인정보 보호 안전장치를 마련했다.
개인정보보호위원회는 지난 12일 전체회의를 열고 카나나의 개인정보 보호 조치에 대한 사전적정성 검토 결과를 심의·의결했다고 13일 밝혔다.
사전적정성 검토제는 AI 등 신기술·신서비스의 개인정보 보호 기준을 명확히 하고, 기업이 이를 준수할 경우 사후 불이익 처분을 방지하는 제도다.
카카오는 개인정보 보호 수준을 강화하기 위해 해당 검토를 자발적으로 신청했다.
카카오는 개인정보 보호 강화를 위해 AI 모델에 안전장치(가드레일)를 적용했다.
악의적인 이용자가 타인의 개인정보를 유도하는 질문을 하면 차단하고, AI가 생성하는 답변에서 개인정보(전화번호, 이메일 등)가 노출되지 않도록 자동 검수하는 시스템을 도입했다.
예를 들어, 카나나가 대화방에서 얻은 개인정보를 다른 대화방에서 발설하지 않도록 설계되며, 대화방 내에서만 필요한 개인정보를 제공할 수 있도록 한다.
사용자가 회비 납부 방법을 물을 경우, 해당 대화방 총무의 계좌번호를 안내하지만, 이를 다른 대화방이나 사용자에게 노출하지 않는 방식이다.
카카오는 ▲암호화 등 기술적 보안 강화 ▲외부 모델 처리 데이터 보호 ▲내부 학습 이용 시 추가 안전 조치 ▲내부 관리 체계 강화 등의 조치를 마련했다.
또한, 이용자의 대화 데이터를 카카오의 거대언어모델(LLM) 학습에 활용할 경우 반드시 별도 동의를 받도록 했다.
카카나 앱은 카카오가 자체 개발한 LLM을 기반으로 운영되지만, 보완적으로 오픈AI의 GPT 모델도 활용한다.
오픈AI는 카나나의 대화 데이터 중 계좌·카드번호 등 식별성 높은 개인정보를 암호화 처리해 보호할 계획이다.
개인정보위는 카나나 서비스 출시 전과 일정 기간 운영한 후 이행 점검을 두 차례 진행할 예정이다. 이에 따라 카나나 베타 버전의 상반기 출시 일정도 차질 없이 진행될 전망이다.
정신아 카카오 대표는 지난달 카카오-오픈AI 공동 기자간담회에서 카나나를 상반기 중 일반인 대상 베타 테스트 버전으로 출시하고, 연내 정식 버전을 선보일 계획이라고 밝힌 바 있다.
카카오는 올해 AI 기술을 기반으로 카카오톡과 연계한 다양한 서비스를 선보일 예정이다.
카카오커머스, 카카오맵 등에서 AI가 이용자 요청을 분석하고 맞춤형 추천을 제공하는 ‘AI 메이트’도 출시할 계획이며, 카나나는 이러한 AI 전략의 핵심 서비스로 자리 잡을 전망이다.
카카오 관계자는 “개인정보위와 협의한 사항들에 맞춰 서비스를 출시·운영해 갈 예정이다. 이용자의 개인정보를 안전하게 관리하기 위해 개인정보 보호 법령에 따른 요구사항을 준수하기 위해 노력하고 있다”며 “향후에도 법령을 준수하고 이용자의 개인정보 보호를 우선으로 고려해 나가겠다”고 밝혔다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.