December 14,2019

인공지능 ‘드론’이 대참사 유발?

주변환경 변화에 따라 오작동 불가피

FacebookTwitter

차세대 무기로 강대국을 중심으로 개발되고 있는 ‘인공지능 드론(AI drone)’이 오작동을 일으켜 예상 못한 전쟁을 일으키고 대참사를 유발할 수 있다는 주장이 제기됐다.

‘킬러 로봇’에 대한 우려를 제기한 사람은 구글의 소프트웨어 개발 수석 책임자였던 로라 놀런(Laura Nolan)이다. 그녀는 지난해 미국의 군사용 드론과 관련된 소프트웨어를 개발하던 중 사임해 세계적으로 큰 주목을 받아왔다.

강대국 간에 인공지능이 조정하는 군사용 드론개발 경쟁이 가열되고 있는 가운데 과학자들이 향후 대참사를 예고하고 있어 우려가 증폭되고 있다. ⓒwaronwant.org

강대국 간에 인공지능이 조정하는 군사용 드론 개발 경쟁이 가열되고 있는 가운데 과학자들이 향후 대참사를 예고하고 있어 우려가 증폭되고 있다. ⓒwaronwant.org

“또 다른 전쟁 불러일으킬 수 있어” 

로라 놀런은 16일 ‘가디언’ 지와의 인터뷰를 통해 “지난해 구글로부터 모든 작동이 AI를 통해 이루어지는 첨단 드론 기술 개발에 참여할 것을 요청받았다.”고 말했다.

그러나 놀런 씨는 “이 무기가 대량 살상용 무기로 등장할 가능성이 있어 무기 개발을 중단해줄 것을 구글 측에 요청했으며, 얼마 안 있어 회사로부터 해고성 통지를 받았다.”고 말했다.

개발 중에 있던 드론은 사람의 간섭 없이 인공지능(AI)으로만 작동되는 무인비행체다.

놀런 씨는 “이 드론의 모든 움직임을 리모트 컨트롤로 조정할 수 있으며, 수천 km 떨어진 먼 곳에서 작전을 수행할 수 있다.”고 말했다.

그녀가 가장 우려했던 것은 드론 내에 탐재된 화학무기다. “무기 성능이 국제 화학무기금지협약(CWC)을 넘어설 만큼 강력한 위력을 지니고 있었으며, 이는 당초 드론 개발 계획을 넘어선 것”이라고 말했다.

그녀가 가장 우려하고 있는 것은 인공지능으로 작동하는 이 드론의 사고 위험성이 매우 크다는 점이다.

리모트 컨트롤로 조정되고 있는 드론이 급작스러운 기상이변에 처했을 때 오작동이 불가피하다는 것.

그녀는 또 “인공지능이 총을 들고 있는 사람이 사냥을 하는지 전쟁을 하는지 식별할 수 없다.”며, “이런 오류로 인해 전쟁과 무관한 민간인 등의 사람들이 피해를 입을 가능성이 매우 크다.”고 우려했다.

놀런 씨가 우려하고 있는 더 무서운 일은 드론 성능을 강화하기 위한 실험을 실제 전쟁터에서 하고 있다는 점이다.

그녀는 “현재 러시아가 시리아 분쟁 현장에서 무인기에 대한 실험을 다양하게 진행하고 있으며, 미국도 이런 일을 시도하려 하고 있다.”며, “UN이 나서 이런 전쟁범죄를 강력히 규제해야 한다.”고 주장했다.

“UN 등에서 무기 개발 강력히 규제해야” 

놀런 씨는 현재 비정부기구인 ‘킬러 로봇 중단켐페인(Campaign to Stop Killer Robots)’에 참여하고 있는 중이다.

그녀는 그동안 UN 등 국제기구에 출석해 드론 개발 상황을 브리핑하고, 강대국 드론 개발로 인한 참사를 막아주기를 요청해왔다.

그녀는 “전쟁이란 명분하에 수십만 대의 군사용 드론이 세계 곳곳에 배치될 경우 과거 전쟁에서 볼 수 없었던 대량 살상과 함께 탈법적인 살육이 확산될 수 있다.”며 관계 기관에 무기 개발에 대한 규제를 강화해줄 것을 촉구했다.

러시아, 중국 등과 드론 개발 경쟁을 벌이고 있는 미 국방부는 그동안 드론 영상을 머신러닝으로 분석하는 기술인 ‘프로젝트 메이븐(Project Maven)’ 프로젝트를 진행해왔다.

그러나 지난해 초 구글이 이 프로젝트에 관여하고 있다는 소식이 전해지면서 큰 논란이 벌어졌다. 세계적인 민간 기업이 살상용 무기 개발에 참여하고 있다는 비난이 점증했고, 급기야 구글에서는 지난해 5월 AI 개발과 관련된 일련의 원칙을 공개했다.

‘구글의 인공지능: 우리의 원칙(Artificial Intelligence at Google: our principles)’이란 제하의 문서를 통해 구글이 더 이상 군사용 AI를 개발하지 않겠다는 의지를 표명했다.

구글에서 근무하던 3000명의 직원들 역시 미 국방부 프로젝트와 관계를 끊으라는 공개서한에 서명했고, 10여 명의 직원은 이 일로 인해 사표를 제출하기에 이른다. 구글 역시 ‘프로젝트 메이븐’에 대한 참여를 중단할 것이라고 밝혔다.

그러나 구글이 과연 100억 달러에 달하는 수익성 있는 계약을 포기할지에 의문을 품은 사람들이 많았다. 한편에서는 수익성 있는 계약을 따내기 위한 또 다른 시도가 아니었냐는 의문이 제기됐다.

실제로 구글이 여전히 군사용 AI 개발에 관여하고 있다는 주장이 끊임없이 제기돼왔다. 구글이 투자한 자회사들을 통해 미 국방부가 여전히 구글 데이터에 접근할 수 있으며, 이는 구글이 군사용 드론 개발에 협력하고 있다는 것을 말해주고 있다는 보도가 이어졌다.

이런 상황에서 군사용 드론 개발의 소프트웨어 개발 책임자였던 로라 놀런의 발언이 큰 파문을 불러일으키고 있다.

특히 놀런 씨는 “구글 스스로 올해 3월 구글이 ‘프로젝트 메이븐’에 참여할 것을 허용했다.”고 말했다. 아울러 그녀는 “이는 3000명에 달하는 구글 직원들의 염원을 저버린 것”이라고 말했다.

이는 구글이 드론 개발을 포기할 것이라는 주장을 부인하는 것이다. 이에 구글의 군사용 무기 개발을 놓고 또 한차례 논란이 이어질 전망이다.

의견달기(0)