기획·칼럼

블록체인으로 딥페이크 대응할 수 있어

[AI 돋보기] 이력 추적으로 콘텐츠 진위 여부 판별 가능

딥페이크(DeepFake)는 콘텐츠를 합성해 허위 정보를 만들어는 기술로, 인공지능(AI)에서 주로 활용되는 알고리즘인 ‘딥러닝(DeepLearning)’을 기반으로 하고 있다. 좀 더 엄밀히 말하면, ‘생성적 적대 신경망(GAN. Generative Adversarial Network)’ 기술을 활용하고 있는 것이다.

GAN은 생성자와 식별자를 두어 서로 경쟁하는 구조로 콘텐츠 제작 수준을 높이는 알고리즘이다. 일반적으로 생성(혹은 합성), 검증, 그리고 학습의 과정을 거친다.

딥페이크로 예를 들며, GAN은 실제와 유사한 콘텐츠로 만들기 위해 스스로 합성한다. 그리고 식별자는 콘텐츠 진위를 확인하는데, 합성에서 어색한 부분을 찾아내 도출한다. 그리고 이러한 도출 내용은 생성자에게 전달되고, 생성자가 좀 더 사실에 가까운 딥페이크를 제작할 수 있게 한다.

양면성을 지닌 딥페이크

딥페이크는 AI 분야에서 주목받는 기술이다. 사람의 고유 영역인 ‘창조’ 활동을 흉내 내기 때문이다. 이러한 관심도는 게재되는 논문 수에서 확인할 수 있다.

딥페이크 탐지 전문 기업인 딥트레이스랩스(Deeptrace Labs)는 2014년에서 2019년까지의 GAN 관련 연간 논문 게재 수를 조사했다. 조사에 따르면 2014년 게재 논문은 3건에 불과했다. 이후 집약적으로 증가해 2015년 9건, 2016년 72건 그리고 2019년에는 1207건의 논문이 게재됐다. 연간 논문 게재수가 5년 만에 400배나 늘어난 셈이다.

딥페이크 관련 연구가 활발해짐에 따라, 응용 분야 또한 많아지고 있다. 대표적인 응용 분야로 음성합성과 영상합성이 있다. 음성합성은 딥페이크를 활용해 음성을 합성하는 기술로 사용자가 원하는 음성으로 바꿔주는 기술이다.

대표적인 예로 신디시아(Synthesia)는 축구 스타인 데이비드 베컴(David Beckham) 목소리를 활용해 말라리아 퇴치 홍보 캠페인 영상을 제작했다. 네이버의 클로바 보이스는 성우의 목소리를 녹음하지 않고 문자 입력으로 더빙하는 기술을 적용하고 있다.

영상합성은 영상을 합성해 제작하는 기술로 단편 9분짜리 영화인 ‘선스프링(Sunspring)’를 예로 들 수 있다.

이처럼 딥페이크는 콘텐츠 제작에서 여러 분야에 활용될 수 있다. 그러나 좋은 점만 있는 것은 아니다. 양면성을 지니고 있던 셈이다.

최근 딥페이크가 음란물에 활용됨에 따라 사회적으로 논란이 되고 있다. 딥트레이스랩스(Deeptrace Labs)에 따르면, 2019년 3분기까지 1만 4678개의 딥페이크 영상을 발견했다. 이는 2018년 1년 전체의 7964개인 것과 비교하면 2배 가까이 늘어난 수치이다. 놀라운 점은 그중 96%가 음란물이다.

이러한 피해는 국내 또한 심각한 수준이다. 딥트레이스랩스가 조사한 음란물 영상 중 25%가 국내 여자 가수를 대상으로 한 경우였기 때문이다. 이는 미국과 영국 여배우(46%) 다음으로 가장 많은 수치이다. 지난 4월의 경우에는 n번방에서 여자 가수를 대상으로 한 딥페이크 음란물이 유포됐다는 사실이 알려지기도 했다.

물론, 이러한 악용은 음란물에만 한정되지 않는다. 정치적으로도 악용될 수 있다. 2019년 2월 세계 석학 26명이 ‘AI의 악용: 전망, 방지 및 대응(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)’이라는 보고서를 발표한 바 있다. 해당 보고서에는 딥페이크가 정치적으로 악용될 수 있는 내용을 담고 있다.

실제로 이러한 일은 벌어지고 있다. 이탈리아 전 총리 ‘마테오 렌치(Matteo Renzi)’가 다른 사회인을 모욕하는 딥페이크 영상이 올라온 사건이 있는가 하면, 2018년 멕시코에서는 대통령 후보를 깎아내리기 위한 딥페이크 영상이 올라오기도 했다.

딥페이크 대응에 페이스북이 관심을 보이고 있다. ⓒEdtech Situation Room

블록체인, 딥페이크 대응 방안 기술로 활용할 수 있어

이에 방송통신심의위원회는 딥페이크 영상을 배포하는 52건의 사이트를 차단한 바 있다.

지난 3월 5일 국회에서는 딥페이크 포르노 처벌 강화에 관한 법안이 통과됐다. 해당 법안에는 “딥페이크 음란물 제작 및 배포하는 사람에게 5년 이하의 징역 또는 5000만 원 이하의 벌금, 그리고 영리 목적으로 인정되면 7년 이하의 징역에 처한다”라는 내용을 담고 있다.

대응 기술 개발 또한 활발히 진행되고 있다. 작년 10월 페이스북은 1000만 달러(약 12억 원)을 투자해 ‘딥페이크 탐지 대회(DFDC)’를 개최한 바 있다. 국내의 경우, 딥페이크 대응 기술 개발 지원을 위한 과제를 추진하고 있다.

지난 6월 과학기술정보통신부(과기부)는 ‘AI 학습용 데이터 구축 사업’ 20개를 확정했다. 그중 하나로 ‘딥페이크 방지 영상 AI 데이터’ 기술도 포함돼 있다. 해당 과제는 머니브레인이 추진할 계획이며, 해당 업체는 딥페이크 방지에 필요한 영상 데이터를 제공할 계획이다.

딥페이크 대응 기술로 활용할 수 있는 블록체인. ⓒpiqsels

다른 한편에서는 블록체인을 활용한 딥페이크 방지 기술 개발이 활기를 띠고 있다. 블록체인은 참여자 간에 일치된 데이터를 공유하는 플랫폼으로 정의할 수 있다. 일치된 데이터를 참여자 간에 공유하고 참여자가 이러한 데이터에 무결성을 보증하기 때문에, 데이터 조작으로부터 안전하다.

그뿐만 아니라, 데이터 이력 추적에도 활용할 수 있다. 블록체인은 신뢰된 데이터를 공유하기 때문에, 참여자는 데이터의 이력을 쉽게 추적할 수 있다. 예를 들어, 코닥원(KodakOne)은 사진작가의 저작권을 보호하기 위한 서비스이다. 이를 위해 저작권 내용을 블록체인으로 저장하고 있다. 네뷸라 지노믹스(Nebula Genomics)는 블록체인을 활용해 유전자 거래 시스템을 선보였는데, 특징은 사용자의 유전자 이력을 블록체인으로 추적할 수 있다.

블록체인의 이러한 특징은 딥페이크 악용에 대응할 수 있다. 콘텐츠의 출처를 블록체인으로 기록하면 콘텐츠를 변형하더라고 진위를 파악할 수 있다. 한 마디로, 콘텐츠에 식별 기술을 덧붙이는 셈이다.

(841)

태그(Tag)

전체 댓글 (0)

과학백과사전