November 18,2017

구글 자회사, 한국어 악플 차단도 준비

제라드 코엔 직소 대표 기자회견

FacebookTwitter

악플 차단 프로그램으로 퍼스펙티브(Perspective)가 있다. 구글 자회사인 직소(Jigsaw)에서 개발하는 이 프로그램은 갈수록 험악해지는 인터넷에서 악성 댓글을 골라주는 역할을 하는 프로그램이다.

직소 대표인 제라드 코엔(Jared Cohen)은 한국어에 대한 충분한 데이터가 모이면 한국어 서비스도 할 의향이 있음을 밝혔다.

코엔은 12일 대전 컨벤션센터에서 가진 기자회견에서  “현재 스페인어는 준비 중이고 한국어에 대한 충분한 데이터가 모이면 하겠다”고 말했다.

2017 아시아 태평양 도시 정상회의에 참석한 코엔은 기조강연을 마친 뒤 가진 공동 기자회견에서 “완벽하지는 않지만, 뉴욕타임스의 경우, 이 프로그램을 사용한 이후 댓글이 500% 확장됐다”고 말했다.

제라드 코엔 직소 대표 ⓒ 심재율 / ScienceTimes

제라드 코엔 직소 대표 ⓒ 심재율 / ScienceTimes

코엔은 “인터넷에서 사람들이 예의를 갖추지 않고 얘기하는 것이 보편화됐다. 이런 문제를 당면해서 우리는 기계학습(machine learning)을 통해서, 더 나은 대화를 이어나가는데 도움이 될 수 있는 플랫폼을 생각했다”고 개발배경을 설명했다.

직소는 뉴욕타임스 등 영어권 신문과 파트너십을 맺고 악플 댓글을 걸러내는 시스템을 구축하고 시범운영중이다. 다른 독자들이 끊고 싶어 하는 표현이 어떤 것이 있는지, 악성 댓글이 무엇인지 등에 대한 데이터가 축적되고 있다.

코엔은 “비슷한 프로그램이 여럿 있지만 퍼스펙티브가 가장 대규모”라며 “악성 댓글의 범주에 들어가는 독성 언어를 찾아내기 위해 수많은 모델을 만들었다고 설명했다.

악플 수준 100개 레벨로 세분화   

하지만, 어떤 표현이 악성 댓글 범주에 들어가는지 판단기준은 사람마다 다르거나 매우 모호할 수 있다. 독자나 매체의 성격에 따라서는 다소 자극적이나 직접적인 표현을 오히려 반기는 독자가 있을 수도 있다.

악성 댓글이라는 것을 누가 판단하며, 어느 수준의 공격적인 표현이어야 악성댓글이라고 차단할 것인지도 다양한 스펙트럼을 갖는다.

심지어는 평소 때 발산하지 못하는 감정의 찌그러기와 분노를 댓글로서 표현하는 분출구 역할을 할지 모른다. 이 같은 미묘한 내용에 대한 대응책에 대해서 코엔은 비교적 자세히 설명했다.

그는 “너무나 악의적인 발언이 많아서 댓글 기능을 닫아 버리거나, 몇 개 기사에 대해서만 댓글 기능을 열어놓는 경우도 있다”고 말하고 이에 대한 대응책으로 ‘댓글 레벨 정하기’로 대응한다고 설명했다.

기자회견하는 제라드 코엔(왼쪽)과 그래엄 쿼크 호주 브리스번 시장 ⓒ심재율 / ScienceTimes

기자회견하는 제라드 코엔(왼쪽)과 그래엄 쿼크 호주 브리스번 시장 ⓒ심재율 / ScienceTimes

코엔은 “우리 기술을 활용하면 모든 기사에 대한 모든 코멘트를 확인하고 1점에서 100점에 이르는 잣대로 나눈다”고 말했다.

언론사에서는 어느 점수를 기준으로 삼아 악성 댓글을 차단하는지 직집 정한다. 신문사가 정한 기준을 어기는 수준의 댓글에 대해서는 편집자가 검토하는 기능을 부여한다.

반대로 독자가 악성 댓글의 수준을 판단하는 기능도 추가했다. 코엔은 “기사를 읽는 사람이 어느 정도 수준의 악성 댓글을 읽을 것인지 설정할 수 있다”고 답변했다. 이 같은 내용에 비춰보면 지난해 발표한 직소의 퍼스펙티브는 그동안 기능이 상당히 추가된 것으로 보인다.

코엔은 “아직 완벽하지는 않지만, 초기 반응은 좋고 뉴욕타임스는 500%의 확장이 일어났다”고 말했다. 코엔은 이어 “퍼스펙티브의 스페인어를 준비 중이고 한국어는 데이터 세트가 마련되면 시작하겠다”고 덧붙였다.

코엔은 잘못된 정보가 흘러 다니는 것을 막는 방안에 대해서는 “기계는 완벽하지 않으며, 데이터 왜곡을 막기 위해 노력하고 있다”고 말했다.

그는 이어 “머신러닝 모델을 개선하는 가장 좋은 방법은 사용자로부터 피드백(feedback)을 받는 것이며, 피드백이 늘어날수록 정교하게 잘못된 정보를 추출할 수 있다”고 말했다.

피드백이 많아야 정확한 프로그램 개발    

코엔은 “인터넷 상에서의 악의성이 너무 높아서, 모든 것을 없애는 것은 불가능하고 오래 걸리므로 이를 해결하는 과정에서 장애를 겪을 수 있다고 생각한다”면서 “점진적인 발전이 의미있다”고 말했다.

인공지능이 인간의 일자리를 빼앗아간다는 우려에 대해 “자동화로 실업자가 많아지는 것은 당면과제이지만, 데이터 자체는 잘 활용하면 의료 교육 인권신장 등에 강점이 있으며, 인간의 잠재력이 중요하다”고 덧붙였다.

전시장에서 휴보 로봇은 목재를 옮기는 시범을 보였다. ⓒ 심재율 / ScienceTimes

전시장에서 휴보 로봇은 목재를 옮기는 시범을 보였다. ⓒ 심재율 / ScienceTimes

대전시는 ‘아시아·태평양 도시정상회의’와 함께 11일부터 14일까지 세계과학도시연합(WTA)·유네스코(UNESCO)와 공동으로 ‘대전 세계혁신포럼’, ‘제14회 WTA 대전 하이테크페어’, ‘2017 UNESCO-WTA 국제 공동 워크숍’ 등을 개최하고 있다.

권선택 대전시장은 “아·태도시정상회의는 미래 번영의 새로운 동력 창출에 대한 아·태 지역 120여개 도시의 당면과제를 인식하고 도시 간 상호협력 방안을 공유해 상호협력의 기반을 마련할 것”이라고 말했다.

개막식은 28개국, 120여개 도시 및 기구 대표가 참가한 가운데 지난 10일 열렸다.

의견달기(0)