알파경제 - 네이버 AI 클린봇 3.0 업그레이드...생명 경시·2차 가해 댓글 정밀 차단

기사 맥락 파악해 악성 의도 정밀 탐지

(사진=연합뉴스)

 

[알파경제=문선정 기자] 네이버는 생명 경시 및 2차 가해 표현 탐지를 집중 강화한 악성 댓글 탐지 시스템 AI 클린봇 3.0 업그레이드를 완료했다고 29일 밝혔다.

이번 업그레이드를 통해 자살·사망·신체 훼손 등과 관련해 생명 경시를 조장하는 댓글, 사건·사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다.

AI 클린봇 3.0은 기존 대비 맥락 이해 능력을 높인 것이 특징이다. 댓글 자체뿐 아니라 기사 제목과 본문 내용을 함께 분석해 악의적 의도를 판단한다. 단순 키워드 탐지 방식에서 벗어나 상황과 문맥을 고려하는 방식으로 고도화됐다.

​네이버 관계자는 알파경제에 "기존 텍스트 중심 탐지를 넘어 기사 제목과 본문을 통합 분석함으로써 2차 가해와 생명 경시 표현을 더욱 선제적으로 차단할 수 있을 것으로 기대한다"고 설명했다.

이어 "이번 업그레이드는 대형 참사 이후 변화한 사회적 흐름을 반영해 피해자와 유족에 대한 2차 가해를 막는 데 집중했다"고 덧붙였다. 

 

네이버 AI 클린봇 3.0 (사진= 네이버 제공)

AI 클린봇은 2019년 처음 도입된 이후 악성 키워드 탐지에서 출발해 딥러닝 기반 문장 맥락 분석, 우회 표현 탐지, 신조어 대응 등의 순서로 기능이 고도화돼 왔다.

또한 2023년에는 한국인터넷자율정책기구(KISO) 혐오표현 자율정책 가이드라인을 반영하는 등 건전한 소통 환경 조성에도 적극 나서왔다.

올해 들어 네이버는 댓글 관련 정책도 잇따라 강화하고 있다. 지난 3월에는 정치·선거 섹션 기사의 댓글 기능을 닫았고, 4월에는 클린봇 탐지 건수가 일정 기준을 초과한 기사의 댓글을 자동 비활성화하는 정책을 도입했다.

네이버 김수향 리더는 "네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다"며 "생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다"라고 말했다.

 

알파경제 문선정 기자(moonsj@alphabiz.co.kr)