인공지능(AI)을 이용해 사람들의 말과 행동 등을 조작하고 합성하는 딥페이크(deepfake) 영상으로 인한 불신 확산 등 부작용이 소셜미디어에서 이미 심각하게 일어나고 있다는 분석이 나왔다.

아일랜드 유니버시티 칼리지 코크(UCC) 존 투미 교수팀은 26일 과학 저널 '플로스 원'(PLoS ONE)에서 러시아의 우크라이나 침공 관련 딥페이크 동영상에 대한 트윗을 분석한 결과 딥페이크가 다양한 불신을 낳고 음모론을 부추길 가능성이 있는 것으로 확인됐다고 밝혔다. 연구팀은 러시아의 우크라이나 침공과 관련된 딥페이크 동영상은 전쟁에 영향을 미치려는 시도에 딥페이크 기술이 사용된 첫 사례라며 딥페이크 기술로 인한 잠재적인 피해에 대한 우려를 불러일으키고 있다고 말했다.

AI를 사용해 제작된 딥페이크 동영상에는 실존 인물이 하지 않은 말과 행동을 하는 모습이 등장한다. 실제로 러시아의 우크라이나 침공 후 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복하는 딥페이크 동영상이 등장해 화제가 됐다.

연구팀은 지난해 1~8월 트위터(현 엑스·X)에서 러시아-우크라이나 전쟁 관련 딥페이크 동영상에 관한 트윗 4천869건을 추출하고 이 가운데 사용자의 반응과 의견 등이 담긴 1천231건을 분석했다. 분석 결과 딥페이크 관련 뉴스에 대한 부정적인 반응을 보이는 트윗이 많았지만 동시에 실제 동영상이 딥페이크로 오인되고 딥페이크가 미디어 전반에 대한 불신과 음모론을 부추길 가능성이 큰 것으로 나타났다.

볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복하는 모습을 담은 딥페이크 영상 관련 뉴스에 대해서는 우려와 충격, 혼란을 표하는 트윗이 많았다. 하지만 정치적 라이벌을 겨냥한 딥페이크, 특히 풍자나 오락용으로 제작된 딥페이크에 대해서는 잠재적 피해를 간과하거나 긍정적인 반응을 보인 경우도 많았다. 또 일부 사용자는 딥페이크 영상의 영향으로 러시아의 우크라이나 침공에 대한 모든 보도를 믿지 못한다면서 언론에 대한 극심한 불신감을 드러냈다.

일부 트윗은 딥페이크 영상을 자신들이 믿는 음모론과 연결해 러시아의 우크라이나 침공에 대한 모든 뉴스는 가짜 반러시아 선전행위라는 견해를 보였다.

연구팀은 "이 연구는 러시아의 우크라이나 침공 관련 딥페이크 영상이 소셜미디어에 미치는 영향에 초점을 맞췄다"며 "이 결과는 딥페이크가 실제 미디어에 대한 신뢰를 어떻게 약화시키고 음모론 확산에 어떻게 이용되는지 보여준다"고 말했다. 연구팀은 또 딥페이크에 대해 대중을 교육하려는 노력 자체가 의도치 않게 사실을 전하는 실제 동영상의 신뢰까지 훼손할 수 있는 것으로 나타났다며 교육 및 엔터테인먼트에서의 딥페이크 사용도 재고돼야 한다고 지적했다.

이어 언론매체와 정부 기관들은 교육용 딥페이크와 사전 교육이 진실을 훼손할 위험성을 신중히 검토해야 하며, 언론매체들도 실제 미디어에 대한 불신을 초래하지 않도록 의심되는 영상에 딥페이크 라벨을 붙이는 데 신중해야 한다고 덧붙였다.

◆ 출처 : PLoS ONE, John Twomey et al., 'Do deepfake videos undermine our epistemic trust? A thematic analysis of tweets that discuss deepfakes in the Russian invasion of Ukraine', https://doi.org/10.1371/journal.pone.0291668