카카오의 인공지능(AI) 기반 댓글 필터링 기능인 '세이프봇'이 포털 다음(DAUM) 댓글에 적용된 이후 욕설·비속어 댓글의 비율이 처음으로 반등했다.

16일 카카오에 따르면 세이프봇 기능을 적용하기 전인 2020년 하반기에 음표로 치환된 욕설과 비속어 댓글 비중(100%)은 2021년과 지난해에 각각 46%, 37%로 2년 연속 하락했다가 올해 상반기 48%로 반등했다.

2020년 12월 다음의 댓글에 처음 적용된 세이프봇은 욕설과 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다.

욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글이 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

올해 들어 욕설이나 비속어가 포함된 댓글이 2020년 말과 비교해서는 절반 넘게 줄어들었지만, 지난해 말보다는 늘어난 셈이다.

욕설·비속어 댓글로 신고돼 삭제된 비율도 2020년 하반기 33.1%에서 2021년 15.5%, 작년 7.3%로 2년 연속으로 절반 넘게 감소했다가 올해 상반기(6.8%)에는 작년 말과 거의 차이가 없는 것으로 나타났다.

세이프봇 도입 이후 욕설 치환 비율과 댓글 신고 삭제 비율이 급감하며 뉴스 댓글에서 스스로 고운 말을 쓰는 자정 작용이 일어났지만, 이런 추세에 다시 변화가 생긴 것 아니냐는 분석이 나온다.

다음이 지난 6월 초 기존과 완전히 다른 파격적인 댓글 서비스 '타임톡'을 시행한 것이 변수로 작용했다는 지적도 제기된다.

타임톡은 기사 발행 후 24시간의 시간제한이 있으며 서비스 적용 시간이 지나면 댓글 창 자체가 사라져 댓글을 작성하거나 다른 사람의 댓글을 확인할 수 없다.

타임톡에도 세이프봇이 적용되고 있다.

다음이 자체 분석한 결과에 따르면 타임톡이 시행되고 한 달간 그간 댓글 창을 열어보지 않았던 이용자의 댓글 참여가 증가했는데, 욕설·비속어 댓글도 함께 증가했을 개연성이 있다.

카카오는 다음 댓글뿐 아니라 회사의 전반적인 콘텐츠와 이미지·영상으로 세이프봇 적용 범위를 확대할 계획이다.

또 욕설이나 혐오 발언뿐 아니라 정신적·육체적 피해를 주거나 건전한 토론 문화를 저해하는 표현을 사람이 아닌 AI가 100% 판단할 수 있도록 기술 혁신을 지속할 방침이다.