AI전문가들, 킬러로봇 금지 촉구

과학기술

AI전문가들, 킬러로봇 금지 촉구
제네바서 UN주재 무기금지협약 회의 개최

2017.11.14 09:30 이강봉 객원기자

13일부터 5일간 스위스 제네바에서 UN 주최로 특정재래식무기금지협약(CCW) 회의가 열리고 있다. 이번 회의의 주제는 ‘킬러로봇(killer robot)’. 인공지능으로 움직이는 킬러로봇을 놓고 UN 차원의 논의가 이루어지기는 이번이 처음이다.

14일 ‘가디언’, ‘데일리 메일’, ‘phys.org’ 등 주요 언론에 따르면 100여 개국 대표자들이 참석한 첫날 회의에서 시민단체 ‘킬러로봇 금지 캠페인(Campaign to Stop Killer Robots)’은 7분 분량의 킬러로봇 관련 영상을 공개했다.

‘도살자로봇(Slaughterbots)’이란 제목을 붙인 이 영상에는 폭탄을 장착한 손바닥만한 드론이 등장한다. 이 드론을 개발자는 영상을 통해 드론 기술을 소개하면서 이 로봇이 사람보다 100배 빠르게 움직일 수 있다고 말했다.

13일부터 5일간 스위스 제네바에서 UN 주최로 특정재래식무기금지협약(CCW) 회의가 열리고 있는 가운데 어떤 결론이 나올지 그 귀추가 주목받고 있다. 사진은 시민단체 ‘킬러로봇 금지 캠페인’이 제작한 영상. ⓒCampaign to Stop Killer Robots

“자율살상무기로 대량 살육 가능해”

그는 또 이 드론이 넓은 시야를 확보할 수 있는 카메라를 장착하고 있으며, 안면인식 시스템 등 특별한 센서들을 장착해 사람들은 물론 차량, 기차 등에 침투할 수 있으며, 날라 오는 총알을 피해갈 수 있을 만큼 민첩성을 지니고 있다고 설명했다.

‘킬러로봇 금지 캠페인’은 이 영상을 통해 이 작은 드론이 프로펠러를 움직여 회의에 참석한 사람들 머리 위로 작은 폭탄들을 떨어뜨려 집단학살을 감행할 수 있다고 경고했다. 다른 참석자들 역시 킬러로봇의 파괴성을 우려하고 있다.

캘리포니아 대학의 AI 전문가 스튜어트 러셀(Stuart Russell) 교수는 “이 치명적인 살상무기개발을 그대로 허용할 경우 지구상의 끔찍한 재앙을 초래할 수 있다.”며, “인간의 안전을 해치는 로봇 개발을 사전에 금지해줄 것”을 촉구했다.

그동안 세계 123개국의 과학자들은 5년간의 재평가 회의를 통해 킬러로봇 개발에 대한 우려를 표명해왔다. 가장 우려하는 것은 이 자율적인 살상무기가 사람의 통제를 받지 않고 인공지능의 판단대로 자유스럽게 사람을 해칠 수 있다는 점이다.

더구나 이 무기를 악용할 경우 지금으로서는 상상하기 힘든 사태가 발생할 수 있다. 국제인권감시기구(Human Rights Watch) 무기분과 책임자인 스티브 구스(Steve Goose) 소장은 “킬러로봇 개발을 막지 않을 경우 걷잡을 수 없는 사태가 발생할 수 있다.”고 경고했다.

지난 8월 116개국 로봇 및 인공지능 전문가들은 UN에 킬러로봇 개발을 금지할 수 있는 조치를 취해줄 것을 촉구하는 서한을 발송했다. 서명자 중에는 테슬라의 일론 머스크(Elon Musk), 구글 딥마인드의 무스타파 술레이만(Mustafa Suleyman)도 포함돼 있었다.

이들은 서한에서 “새로운 킬러로봇이 개발될 경우 전쟁의 규모를 더 키우고, 전쟁 속도 역시 예상을 넘어설 만큼 빨라질 것”이며 “또한 독재자, 테러리스트 등이 바람직하지 못한 방식으로 이 공포의 무기를 사용할 것”이라고 주장했다.

킬러로봇 금지방안 놓고 논란 예상

서한은 또 “이 판도라의 상자가 열릴 경우 다시 뚜껑을 닫기는 어려울 것”이라며, “이 부도덕한 살인 로봇 기술을 UN의 특정재래식무기 금지협약(CCW, UN Convention on Certain Conventional Weapons) 무기 목록에 서둘러 추가해야 한다.”고 주장했다.

이 서신은 8월21일 호주 멜버른에서 열린 국제 인공지능콘퍼런스(IJCAI)에서 공개됐으며, UN은 이 사안을 검토하기 위해 모임을 갖겠다고 밝혔다. 그리고 지금 각국 실무자들이 참석한 특정재래식무기금지협약(CCW) 회의가 열리고 있는 중이다.

전문가들의 주장대로 최근 킬로로봇 개발은 정점에 와 있는 분위기다. 마이크로 드론들이 각각 소형 폭탄을 탑재한 채 한꺼번에 목표물을 향해 돌진하는 ‘드론 벌떼 공격(microdrone swarms)’이 대표적인 경우다.

이번 군축회의에서는 킬러로봇 개발을 통제할 수 있는 방안을 협의할 것으로 보인다. 특정재래식무기금지협약(CCW) 회의에서 의장직을 맡은 인도의 아만디프 길(Amandeep Gill) 씨는 “금지협약을 제정하기는 매우 쉽지만, 이를 적용하는데 어려움이 있다.”고 말했다.

“지금 상황에서 개발, 생산 중인 킬러로봇에 어떤 것들이 있는지 파악할 필요가 있다.”고 말했다. “금지협약을 보다 강력히 실행하기 위해서는 더 많은 국가 기관들과 기업들이 참여해야 한다.”며, “킬러로봇 개발을 주도하는 강대국들이 더 깊은 관심을 가져줄 것”을 촉구했다.

길 의장에 따르면 킬러로봇 개발과 관련, 다양한 견해가 제기되고 있는 중이다. 국제적십자사(ICRC)의 경우 킬러로봇 개발을 완전히 금지하기보다는 이 인공지능화 된 무기 개발을 어느 정도 선에서 제한해야 한다고 보고 있다.

ICRC의 참석자 닐 데이비슨(Neil Davison) 씨는 ‘AFP’와의 인터뷰를 통해 “기계인 킬로로봇을 법에 적용할 수 없다.”고 말했다. “이런 무기들을 어떻게 운용할 것인지 본질적인 문제가 있다.”며, 무기운용체제에 대한 협의가 있어야 할 것이라고 말했다.

‘킬러 로봇’이란 사람의 간섭 없이 공격이 가능한 완전 자율무기를 말한다. ‘영국의 타라니스 드론(Taranis drone)’, 미국 해군의 자율운항 무인 함정 ‘시 헌터(Sea Hunter)’, 보잉의 무인잠수정 ‘에코 보이저(Echo Voyager)’, 러시아의 무인 탱크 ‘MK-25’ 등이 대표적인 경우다.

관계자들은 현재 100% 자율 무기는 존재하지 않지만 지금처럼 빠른 속도로 과학기술이 발전한다면 영화 터미네이터의 ‘T-800’, 로보캅의 ‘ED-209′와 같은 무자비한 ‘킬러 로봇’ 등장은 시간문제일 것으로 보고 있다.

세계의 이목이 집중되고 있는 가운데 제네바에서 열리고 있는 특정재래식무기금지협약(CCW) 회의에서 어떤 결론을 도출해낼지는 아직 미지수다. 그러나 영화 ‘터미네이터’와 같은 비극적인 상황을 막아야 할 것으로 보인다.

(5378)