AI 토론 엔진 상용화…여러 모델이 답변 검증해 환각 줄인다

AI 토론 엔진은 단일 생성형 AI의 환각과 편향 문제를 줄일 수 있을까? 제네시스코텍스AI는 ChatGPT 계열 모델과 Claude, Gemini, Grok 등 서로 다른 대형언어모델을 한 플랫폼에서 경쟁시키고, 실행 가능한 결과로 답변을 검증하는 ‘AI Debate Engine’의 상용화를 공식화했다.

회사가 제시한 기본 구조는 ‘경쟁(Compete)→검증(Verify)→협력(Collaborate)’이다. 여러 AI가 같은 문제에 독립적으로 답한 뒤 코드 실행이나 규칙 기반 검사로 결과를 비교하고, 검증을 통과한 정보로 최종 답변이나 학습용 과정을 구성하는 방식이다.

제네시스코텍스AI의 공식 홈페이지에서는 ‘모든 AI를 품다, 당신의 신뢰를 잇다’라는 메시지와 함께 기업용 AI 서비스와 프로젝트를 소개하고 있다. 다만 공개 페이지에서 AI Debate Engine의 구체적인 가격과 이용 방식, 도입 사례, 서비스 수준 협약은 확인되지 않는다.

AI 토론 엔진은 어떻게 작동하나

AI 토론 엔진은 하나의 모델을 절대적인 심판으로 두지 않고 여러 모델의 답변을 비교한 뒤 검증 가능한 결과를 중심으로 결론을 만드는 구조다.

단일 AI에 질문하면 사용자는 대체로 하나의 답변만 받는다. 이 답변이 잘못됐거나 특정 관점에 치우쳐 있어도 별도의 검증 과정이 없다면 오류를 발견하기 어렵다.

다중 AI 방식에서는 서로 다른 모델이 같은 문제를 풀고 상대 모델의 논리와 결과를 비교한다. 모델마다 학습 데이터와 설계 방식, 응답 특성이 다르기 때문에 하나의 모델이 놓친 오류를 다른 모델이 발견할 가능성을 높일 수 있다.

다만 여러 모델이 같은 잘못된 전제를 공유하거나 객관적으로 채점할 수 없는 문제를 다룬다면 다수의 합의가 곧 사실을 의미하지는 않는다. 따라서 토론 횟수보다 어떤 외부 자료와 평가 도구로 결과를 검증하는지가 더 중요하다.

경쟁·검증·협력 3단계 프레임워크

제네시스코텍스AI가 설명한 프레임워크의 핵심은 답변 생성과 평가, 최종 합의를 서로 다른 단계로 분리하는 데 있다.

첫 단계인 경쟁에서는 여러 프런티어 모델이 동일한 문제에 답을 제출한다. 두 번째 검증 단계에서는 코드의 단위 테스트나 입력·출력 검사처럼 사람이 주관적으로 판단하지 않아도 되는 기준을 활용한다.

마지막 협력 단계에서는 각 모델이 성공하거나 실패한 결과를 바탕으로 더 나은 풀이 과정과 학습 환경을 구성한다. 단순히 가장 많은 표를 받은 답변을 선택하기보다 실제로 작동하는 결과를 중심으로 합의를 만든다는 설명이다.

코딩 문제는 실행 결과가 명확하므로 이러한 접근을 적용하기 쉽다. 반면 정책 판단이나 법률 해석, 의료 상담처럼 정답이 하나로 고정되지 않는 분야에서는 전문가 검토와 최신 근거 자료가 추가로 필요하다.

‘Compete Then Collaborate’ 논문에서 확인된 내용

공개된 연구는 네 개의 프런티어 AI를 경쟁시킨 뒤 검증 가능한 학습 환경을 만드는 방식이 코딩 모델 훈련에 어떤 영향을 주는지 실험했다.

Miseong Shawn Kim이 2026년 7월 9일 arXiv에 공개한 논문 제목은 ‘Compete Then Collaborate: Frontier AI Teachers Build a Verifiable Curriculum to Improve a Coding Student Beyond Imitation’이다. 연구에서는 Claude, Codex-GPT, Grok, Gemini를 교사 모델로 사용하고 단위 테스트와 표준 입출력 검사로 결과를 평가했다.

연구진은 일반적인 코딩 문제에서는 각 모델이 자기 수정을 거친 뒤 99∼100%에 가까운 성능을 보여 차이를 구분하기 어려웠다고 보고했다. 더 어려운 경쟁형 문제에서는 Gemini 77%, Claude와 Codex 계열이 약 69%, Grok이 50% 수준의 통과율을 기록했다.

그러나 논문의 핵심은 특정 모델의 순위를 가리는 데 있지 않다. 연구진은 검증된 교사 답안을 그대로 따라 배우는 지도미세조정이 이미 일정한 능력을 갖춘 학생 모델의 성능을 낮출 수 있다고 분석했다.

해당 논문은 정식 학술지의 동료평가를 마친 논문이 아니라 arXiv에 등록된 사전논문이다. 따라서 연구 결과는 재현 실험과 후속 검증을 거쳐 평가해야 한다.

SFT보다 RLVR가 나았다는 의미

연구에서는 정답을 모방하게 하는 방식보다 실행 결과에 따라 보상을 주는 강화학습이 어려운 코딩 과제에서 더 나은 방향의 변화를 보였다.

SFT는 검증을 통과한 교사 모델의 답변을 학생 모델이 학습하도록 하는 방식이다. 논문에서는 이 방식이 일부 평가에서 기존 76.7%였던 성능을 72.7%로 낮추고, 어려운 경쟁 문제에서는 5.9%에서 2.9%로 떨어뜨린 사례가 보고됐다.

반면 RLVR는 코드가 실제 테스트를 얼마나 통과했는지를 보상으로 활용한다. 동일한 협력형 커리큘럼을 RLVR 환경에 적용하자 경쟁 문제 성능이 기존 5.9%에서 최고 8.8%로 올라 연구진이 계산한 상대적 개선 폭은 49%였다.

절대 성능은 여전히 낮다는 점을 함께 봐야 한다. 5.9%에서 8.8%로 오른 결과는 학습 방향이 개선됐다는 근거가 될 수 있지만, 해당 모델이 어려운 문제를 대부분 해결하게 됐다는 의미는 아니다.

공개된 코드 저장소 역시 평가 데이터가 68개의 별도 경쟁 문제로 제한돼 있어 한 문제 차이가 약 1.5%포인트에 해당한다고 한계를 밝혔다. 연구는 정확한 최고 수치보다 SFT는 하락하고 RLVR는 상승한 방향성에 의미를 두도록 안내한다.

[이미지 3 삽입: 위 문단 아래]

실행 기반 검증이 중요한 이유

실행 기반 검증은 AI가 그럴듯하게 설명했는지가 아니라 결과가 실제 조건을 충족했는지를 판정한다.

LLM이 다른 LLM의 답변을 평가하면 자신의 문체나 결론을 선호하는 편향이 발생할 수 있다. 반면 코드를 실행해 정해진 테스트를 통과했는지 확인하면 평가 기준이 비교적 명확해진다.

공개된 연구 저장소에는 문제 데이터와 숨겨진 테스트, 실행 검증 도구, 재현용 코드가 포함돼 있다. 연구진은 AI 모델의 원시 답변을 재배포하지 않고 사용자가 자신의 API 환경에서 결과를 다시 생성하고 검증할 수 있도록 구성했다고 밝혔다.

다만 실행 검증이 가능한 영역은 제한적이다. 계산과 코드, 형식 검사처럼 성공 조건이 명확한 업무에는 적합하지만, 창의적 글쓰기나 윤리 판단, 의료적 위험도 평가처럼 결과의 질을 숫자 하나로 판정하기 어려운 업무에는 별도의 검증 체계가 필요하다.

AI Debate Engine의 핵심 기술

회사 측은 토론 제어와 실행 검증, 합의 추론, 검증 가능한 보상 학습을 엔진의 주요 기술로 제시했다.

• Multi-Agent Debate Framework: 여러 AI가 동일 문제를 풀고 서로의 답변을 비교하도록 제어
• Execution Verification Engine: 코드와 입력·출력, 규칙 충족 여부를 실행 결과로 검사
• Consensus Reasoning Engine: 모델 간 이견과 검증 결과를 종합해 최종 결론 구성
• RLVR 학습 프레임워크: 실행 가능한 성과를 보상으로 사용해 모델을 학습

이들 기술 명칭과 상용 엔진의 구현 범위는 회사의 7월 14일 발표를 토대로 한 설명이다. 공개된 논문과 GitHub 저장소에서는 코딩 문제를 대상으로 한 실행 검증과 RLVR 학습 과정을 확인할 수 있지만, 기업용 제품의 전체 기능과 성능은 별도의 자료가 필요하다.

회사 측은 국내외 특허 포트폴리오를 구축한다는 계획도 밝혔다. 그러나 구체적인 출원번호와 등록 여부가 공개되지 않은 상태에서는 ‘특허 기술을 확보했다’보다 ‘특허 출원을 추진한다’고 표현하는 것이 정확하다.

단일 AI보다 항상 정확할까

여러 AI가 참여한다고 해서 답변의 정확성이 자동으로 보장되는 것은 아니다.

첫째, 토론에 참여하는 모델이 모두 동일한 잘못된 자료를 학습했다면 같은 오류를 반복할 수 있다. 모델 수가 늘어나더라도 독립적인 근거 자료가 없다면 집단적인 환각이 발생할 가능성이 있다.

둘째, 합의 엔진이 무엇을 우수한 답변으로 평가하는지에 따라 최종 결과가 달라진다. 속도나 다수결만 강조하면 소수 모델이 제기한 중요한 반론이 사라질 수 있다.

셋째, 여러 상용 AI를 동시에 호출하면 비용과 처리 시간이 증가한다. 고객 데이터가 서로 다른 AI 사업자의 서버로 전송될 수 있어 보안과 개인정보 처리, 데이터 보존 정책도 확인해야 한다.

따라서 기업 도입 시에는 단일 모델과 비교한 오류율과 처리 시간, 비용, 개인정보 보호 방식, 사람이 개입하는 지점을 함께 평가해야 한다.

법률·의료·금융에서 확인해야 할 조건

고위험 산업에서는 AI들의 합의보다 근거 추적과 책임 소재, 전문가 검토 절차가 더 중요하다.

법률 서비스는 최신 법령과 판례의 출처를 표시하고 관할과 시행일을 확인할 수 있어야 한다. 의료 분야는 임상지침과 환자의 상태를 연결하는 과정에서 의료진의 판단을 대체하지 않도록 설계해야 한다.

금융 분야에서는 계산 결과뿐 아니라 사용한 데이터의 시점과 위험 가정, 규제 준수 여부가 기록돼야 한다. 제약·GMP 분야 역시 문서 버전과 변경 이력, 검증 로그를 남겨야 실제 업무에 적용할 수 있다.

회사는 교육과 법률, 의료, 제약, 금융 등 신뢰성이 중요한 산업을 대상으로 맞춤형 플랫폼을 개발하겠다고 밝혔다. 그러나 공개된 논문은 Python 코딩 과제와 Qwen2.5-Coder 계열 학생 모델을 중심으로 진행됐으므로 다른 산업에서도 같은 성능 개선이 나타난다고 단정할 수는 없다.

1999년 앙상블 연구와의 연관성은

제네시스코텍스AI는 이번 기술이 여러 모델을 결합해 성능을 높이는 기존 앙상블 학습의 철학을 생성형 AI 환경으로 확장했다고 설명했다.

여러 예측 모델의 결과를 결합하는 앙상블 학습과 여러 LLM을 경쟁·협력시키는 방식은 하나의 모델에만 의존하지 않는다는 공통점이 있다. 그러나 전통적인 분류기 앙상블과 생성형 AI의 토론·강화학습은 기술 구조와 평가 방식이 동일하지 않다.

회사 측은 1999년 POSTECH 장민 박사의 ‘가상 데이터를 이용한 앙상블 학습 알고리즘’ 연구와의 학문적 연결성을 강조했다. 다만 해당 연구의 원문과 서지정보, 현재 기술과의 직접적인 인용 관계를 공개 검색으로 충분히 확인하지 못했으므로 기사에서는 회사 측의 기술적 해석으로 한정하는 것이 적절하다.

논문에서 직접 확인되는 핵심은 특정 과거 연구의 계승 여부보다 여러 교사 AI가 검증 가능한 학습 환경을 만들고, 학생 모델이 실제 실행 결과를 통해 학습하도록 했다는 점이다.

Genesis AI Engine의 사업 계획

제네시스코텍스AI는 AI Debate Engine을 기반으로 산업별 기업용 솔루션을 순차 출시한다는 계획이다.

회사는 ‘Genesis AI Engine’ 브랜드를 통해 맞춤형 AI 에이전트와 교육 플랫폼, 디지털 트윈 연계 솔루션, 법률·의료·GMP 분야의 토론형 AI 제품을 준비하고 있다고 밝혔다.

기업용 AI에서 중요한 것은 모델의 크기보다 실제 업무에서 오류를 발견하고 근거를 추적할 수 있는지다. 여러 모델의 답변과 검증 결과를 기록한다면 감사와 품질관리 측면에서 활용 가능성이 있다.

반면 상용화 발표가 곧 성능과 시장성이 검증됐다는 뜻은 아니다. 실제 고객 도입 사례와 독립적인 벤치마크, 보안 인증, 장애 대응 체계가 공개돼야 제품의 완성도를 평가할 수 있다.

AI 토론 엔진의 경쟁력은 참여 모델의 수보다 검증 규칙의 품질에서 결정될 가능성이 크다. 답변이 실제 조건을 충족했는지 확인하고 검증 과정을 다시 실행할 수 있어야 단일 AI의 한계를 보완하는 추론 인프라로 자리 잡을 수 있다.