네이버가 대형 참사 와 인명사고 보도에 대한 악성 댓글(악플) 감지 기능을 한층 강화한다고 24일 밝혔다.
인공지능(AI) 기반의 악플 탐지 기술을 고도화해 1분기 내에 적용할 계획이다.
네이버는 현재 운영 중인 AI 기반 악플 감지 시스템 ‘클린봇 옵저버’를 개선해 인명사고 관련 기사를 자동 탐지하고, 해당 기사의 악플 수준을 분석해 언론사에 즉각 알리는 기능을 추가할 예정이다.
지난해 말 제주항공 참사 당시 약 30개 언론사가 네이버의 댓글 제공 중단 기능을 활용했던 사례를 반영한 조치다.
네이버는 2019년 AI 기반 악플 탐지 기술 ‘클린봇’을 도입한 이후 지속적으로 시스템을 고도화하고 있다.
클린봇은 욕설, 저속한 표현, 선정적·폭력적·차별적·비하적 표현 등을 자동으로 탐지해 필터링하며, 지난해부터는 댓글 패턴을 분석해 악플 비율이 높은 기사를 선별하는 '클린봇 옵저버' 베타 서비스를 운영 중이다.
올해 상반기에는 언론 협·단체와 협력해 참사 보도 권고 기준과 악플 예방 문구를 마련할 계획이다.
네이버는 2023년 9월부터 자살 예방 보도 준칙에 따라 관련 기사에 자살 예방 배너를 삽입하고 댓글 및 추천 스티커 기능을 제외한 바 있다.
이번 조치를 통해 대형 참사 및 인명사고 기사에 ‘악플 예방 문구’를 적용하면 해당 기사의 댓글이 자동으로 차단되는 방안도 추진 중이다.
네이버는 향후 자살(극단적 선택)이나 인명사고 기사 외에도 사회적 갈등과 의견 대립이 심화된 기사에 대한 대응 방안도 검토하고 있다.
특히 일정 기준 이상의 공감·비공감 수가 빠르게 증가하는 기사의 경우, 댓글 정렬 방식을 조정하도록 언론사에 알림을 제공하는 방안이 논의되고 있다.
네이버 관계자는 “인명사고와 대형 참사 보도 시 악플로 인한 2차 피해를 방지하기 위해 정책적·기술적 노력을 이어갈 것”이라며 “더 나은 뉴스 댓글 환경을 제공하도록 지속적으로 보완하겠다”고 밝혔다.
배동현 ([email protected]) 기사제보
댓글을 남기려면 로그인 해주세요.