한국어 처리 30% 빨라졌다…카카오, 메모리 72.7% 줄인 ‘카나나-2’ 공개

카카오 카나나-2 경량 언어모델 4종이 오픈소스로 공개됐다. 대화와 통화 요약, 인공지능 비서처럼 일상에서 자주 사용하는 한국어 AI 서비스를 비교적 적은 연산 자원으로 개발할 수 있도록 설계한 소형 언어모델이다.

카카오는 2026년 7월 28일 글로벌 AI 개발 플랫폼 허깅페이스를 통해 카나나-2 모델을 공개했다고 밝혔다. 공개 대상은 매개변수 13억개와 30억개 규모의 기본형·지시형 모델로, 모두 4종이다.

카나나-2 경량 언어모델 4종은 어떻게 구성됐나

카나나-2는 모델 크기와 학습 목적에 따라 13억·30억 매개변수의 기본형과 지시형으로 나뉜다.

기본형은 대규모 텍스트를 학습한 기반 모델이다. 개발자가 특정 산업이나 서비스에 맞는 데이터를 추가로 학습해 문서 분류, 검색, 요약 등 목적별 모델로 조정할 수 있다.

지시형은 이용자의 질문이나 명령을 이해하고 답변하도록 추가 학습한 모델이다. 별도의 대규모 조정 없이도 대화형 AI나 요약 서비스, AI 비서 등에 적용하기 쉽다는 차이가 있다.

카나나-2 공개 모델 구성

자료: 카카오 카나나-2 발표 자료(2026)

매개변수가 많다고 모든 환경에서 더 적합한 것은 아니다. 모델 크기가 커지면 복잡한 작업의 처리 역량이 높아질 수 있지만 메모리 사용량과 응답 시간, 기기 성능 부담도 함께 늘어날 수 있다.

한국어 처리 효율 30% 이상 개선

카나나-2는 자체 개발한 한국어 특화 토크나이저를 적용해 기존 모델보다 한국어 처리 효율을 30% 이상 높였다.

토크나이저는 사람이 작성한 문장을 AI가 처리할 수 있는 작은 단위인 토큰으로 나누는 기술이다. 같은 문장이라도 어떤 토크나이저를 사용하느냐에 따라 생성되는 토큰의 수가 달라진다.

한국어 문장을 더 적은 토큰으로 나누면 동일한 내용을 처리하는 데 필요한 연산량을 줄일 수 있다. 서비스 운영 과정에서는 응답 속도와 메모리 사용량, 처리 비용을 낮추는 데 도움이 될 수 있다.

다만 ‘30% 이상’은 카카오가 자체 기준으로 기존 모델과 비교한 결과다. 실제 효율 개선 폭은 입력 문장의 길이와 표현 방식, 하드웨어, 모델 설정 등에 따라 달라질 수 있다.

슬라이딩 윈도우 어텐션으로 메모리 최대 72.7% 절감

카나나-2는 긴 대화를 처리할 때 메모리 사용량이 빠르게 증가하는 문제를 줄이기 위해 슬라이딩 윈도우 어텐션 구조를 적용했다.

언어모델은 대화가 길어질수록 앞서 나온 문장과 새 문장 사이의 관계를 계산하는 데 더 많은 메모리를 사용한다. 제한된 메모리를 가진 스마트폰이나 개인용 컴퓨터에서는 긴 대화가 이어질수록 속도가 떨어지거나 모델 구동이 어려워질 수 있다.

슬라이딩 윈도우 어텐션은 전체 대화 내용을 매번 동일하게 계산하지 않고 일정한 범위의 문맥을 중심으로 처리하는 방식이다. 이를 통해 긴 입력에서도 연산과 메모리 부담을 줄이는 효과를 기대할 수 있다.

카카오는 해당 구조를 적용해 기존 방식보다 메모리 사용량을 최대 72.7% 줄였다고 설명했다(카카오, 2026).

카나나-2 주요 개선 내용

자료: 카카오 카나나-2 발표 자료(2026)

‘최대 72.7%’는 특정 시험 환경에서 확인된 가장 높은 절감 폭을 의미한다. 모든 기기와 모든 대화 길이에서 같은 수치가 나타난다고 해석해서는 안 된다.

큐웬 등 비슷한 크기 모델과 비교

카카오는 카나나-2가 지식과 수학, 코딩, 지시 수행 평가에서 비슷한 크기의 글로벌 오픈소스 모델과 경쟁력 있는 성능을 기록했다고 밝혔다.

비교 대상으로는 알리바바의 큐웬 계열 모델 등이 언급됐다. 카카오는 한국어 처리뿐 아니라 일반 지식과 수학적 문제 해결, 코드 작성, 이용자 지시 이해 등 여러 항목을 평가했다고 설명했다.

다만 평가에 사용한 벤치마크의 명칭과 개별 점수, 시험 조건이 포함되지 않았다. ‘경쟁력 있는 성능’이라는 평가는 카카오의 자체 평가 결과이며, 독립적인 제3자 검증 결과와 구분해야 한다.

모델을 실제 서비스에 적용할 때는 공개된 평가 점수만 보기보다 사용하려는 업무의 정확도와 응답 속도, 오류 유형, 운영 비용을 별도로 시험할 필요가 있다.

대화·통화 요약과 AI 비서에 활용

카카오는 경량 언어모델을 대화·통화 요약과 AI 비서 등 생활 밀착형 서비스에 활용하고 있다.

카카오는 ‘카나나 인 카카오톡’과 카카오톡 대화·통화 요약, AI 국민비서 등에 자체 경량 모델을 적용하고 있다.

대화 요약 기능은 길게 쌓인 채팅에서 핵심 내용이나 결정 사항을 짧게 정리하는 데 활용할 수 있다. 통화 요약은 음성을 문자로 변환한 뒤 주요 내용을 압축해 보여주는 방식으로 구현할 수 있다.

AI 비서에서는 이용자의 요청을 이해하고 필요한 정보를 찾거나 일정한 업무 절차를 안내하는 기반 모델로 활용할 수 있다. 모델 크기가 작으면 서버뿐 아니라 스마트폰과 PC 등 다양한 환경에 적용하기 쉬워질 수 있다.

경량 AI 모델이 필요한 이유

경량 언어모델은 초거대 AI보다 적은 연산 자원으로 빠르게 작동할 수 있다는 점이 강점이다.

대규모 언어모델은 복잡한 추론과 폭넓은 지식 처리에 유리하지만 많은 그래픽처리장치와 서버 자원을 필요로 한다. 모델을 운영하는 기업 입장에서는 응답 한 건마다 발생하는 비용과 전력 사용량도 부담이 될 수 있다.

경량 모델은 기능과 작업 범위를 명확히 제한하면 상담 요약, 문서 분류, 일정 안내와 같은 반복 업무를 더 적은 비용으로 처리할 수 있다. 스마트폰이나 사내 PC처럼 외부 서버 연결을 최소화해야 하는 환경에도 적용 가능성이 있다.

반면 복잡한 추론이나 최신 지식 검색, 정확성이 중요한 전문 업무에서는 대형 모델보다 성능이 낮을 수 있다. 실제 서비스에서는 경량 모델과 대형 클라우드 모델을 업무 난이도에 따라 함께 사용하는 방식도 고려할 수 있다.

카나나-2 오픈소스 공개 의미

카나나-2 공개는 국내 개발자와 기업이 한국어 중심의 경량 AI 서비스를 직접 개발할 수 있는 선택지를 넓혔다는 데 의미가 있다.

카카오의 허깅페이스 계정은 기업 인증을 받은 공식 조직 페이지로 운영되고 있다. 카카오는 해당 계정을 통해 자체 개발한 카나나 계열 모델을 공개해 왔다. 다만 2026년 7월 28일 발표된 13억·30억 매개변수 모델의 개별 모델 카드는 발행 전에 다시 확인할 필요가 있다.

오픈소스 모델을 활용하면 기업은 자체 데이터로 추가 학습하거나 서비스 목적에 맞게 모델을 조정할 수 있다. 고객 상담 요약, 사내 문서 검색, 한국어 질의응답, 개인용 AI 비서 등 다양한 분야에서 활용할 수 있다.

다만 오픈소스라는 표현이 아무 제한 없이 사용할 수 있다는 뜻은 아니다. 실제 서비스나 상업적 프로젝트에 적용하기 전에는 각 모델 카드에 게시된 최신 라이선스와 이용 조건을 확인해야 한다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다.

카나나-2는 한국어 처리 효율과 긴 대화의 메모리 부담을 함께 개선한 경량 모델을 지향한다. 향후 실제 모델 카드와 평가 결과가 공개되면 벤치마크 점수와 라이선스, 구동 환경을 기준으로 활용 범위를 구체적으로 판단할 수 있을 전망이다.