"욕설 포함 댓글 아예 가린다"…네이버, 뉴스 악플 필터링 강화

이코노미한국 | 기사입력 2019/11/13 [17:14]

"욕설 포함 댓글 아예 가린다"…네이버, 뉴스 악플 필터링 강화

이코노미한국 | 입력 : 2019/11/13 [17:14]

 

 

 



 

/박민석기자 mspark @hankooke.com

 

네이버가 최근 사회적 문제로 재부상한 뉴스 악성 댓글(악플)에 대응하기 위해 인공지능(AI)을 활용한 필터링을 확대 적용한다.

 

네이버는 자체 개발한 악성 댓글 필터링 인공지능(AI) 기술 '클린봇'을 뉴스 서비스에 적용했다고 13일 밝혔다.

 

클린봇은 불쾌한 욕설 등 악성 댓글을 인지해, 이를 자동으로 숨겨주는 인공지능(AI) 기술이다. 네이버는 올해 4월부터 웹툰, 쥬니버(쥬니어 네이버), 스포츠, 연예 등 서비스에 순차 적용해왔다. 지난 12일 서비스 공지를 통해 뉴스에도 도입된다고 알렸다.

 

클린봇은 기존 욕설 치환 기능을 넘어 악플 전체를 노출하지 않게 하는 기술이다. 네이버는 지난 2012년부터 뉴스 댓글에서 욕설 문구를 '○○○'으로 자동 치환해주는 기능을 도입했다. 하지만 욕설 자체가 가려진다 해도, 나머지 문장의 맥락에서 모욕적인 뜻을 유추할 수 있었다.

 

가령, "저런 ○○ 같은 게 어디서 ○○이야"라는 일부 문장으로도 맥락을 통해 모욕적인 뜻이 전달된다는 것이다.

 

클린봇을 도입하면 욕설이 들어간 댓글이 아예 뜨지 않아, 이에 대한 피해를 더 줄일 수 있다. 사용 여부는 뉴스 이용자가 직접 선택할 수 있다.

 

이번 조치는 인터넷 포털 기업들의 악성 댓글 자정 노력 일환이다. 올해 국감에서 실시간 급상승 검색어와 함께 인터넷 상 명예훼손이 심각한 문제로 지적됐다. 또 가수 겸 배우 설리(본명 최진리·25)의 사망을 계기로 악성 댓글을 근절하자는 여론이 크게 일었다. 이에 카카오는 지난달 연예 뉴스 댓글을 잠정 폐지하기도 했다. 네이버도 악성 댓글 문제를 개선하기 위해 의견 수렴 등 절차를 진행하고 있다. 이런 상황에서 비교적 가치 판단이 쉬운 악성 댓글 먼저 AI로 걸러내는 방안을 우선적으로 확대하고 있다.

 

네이버 관계자는 "클린봇을 시범 적용한 지 6개월 정도 됐는데, 꽤 잘 작동하고 있어 다른 영역에도 확대 적용하게 됐다"며 "앞으로 댓글 정책과 관련해서 계속 변화가 있을 것"이라고 말했다.

 

 

 

 

  • 도배방지 이미지