“AI가 지구를 지배? 첨단기술 악용하는 악당이 문제”

전 세계 공동 표준·규범 정해 함께 대응해야

인공지능(AI), 로봇 등 첨단기술이 발달할수록 사람의 두려움도 커진다. 기술이 발전하면서 편리해지는 것은 좋지만 기술에 지배당하고 싶지는 않기 때문이다. 미래학자 레이 커즈와일은 2045년 ‘특이점(Singularity)’이 올 것이라고 예측했다. 그가 주장하는 ‘특이점’이란 기술(AI)이 인간의 지능을 초월하는 기점을 뜻한다.

특이점의 순간이 오면 AI가 인간을 지배하는 것은 아닐까? 그건 아무도 단정할 수 없다. 하지만 분명한 건 나쁜 행위자가 AI 등 첨단기술을 악용해 세계적인 문제를 일으킬 확률이 더 크다는 점이다.

18일 최종현 학술원이 주관하는 온라인 웨비나 ‘첨단과학과 동북아 지정학 위기(Geopolitical Implications of Scientific Innovation Trends in Northeast Asia)’에서 국내외 전문가들은 “첨단기술이 발전할수록 이를 악용하는 행위자를 막기 어렵다”라며 “때문에 서둘러 국제적으로 표준화된 규범과 가치를 서로 공유하는 것이 절실하다”라고 입을 모았다.

똑똑한 사람은 많아기술 악용 사례 막기 어렵다

크리스 폴 CSIS 선임고문은 첨단기술의 파괴적인 효과를 우려했다. ⓒ 최종현 학술원

역사적으로 첨단기술은 항상 정치, 경제, 안보의 위험에 영향을 끼쳐왔다. 주요 국가들이 데이터, 인공지능, 로봇공학, 사이버 보안, 우주기술, 마이크로일렉트로닉스(Microelectronics)에 초집중하고 있는 것도 이 때문이다.

크리스 폴(Chris Fall) CSIS 선임고문은 “첨단기술은 군사적인 부분을 포함해서 모든 사회적 분야에 파괴적인 효과를 가진다”라며 국제사회 질서에 기술의 파급효과를 강조했다. 첨단기술이 좋은 방향으로만 발전하지는 않는다는 뜻이다.

또 나쁜 행위자가 중대한 기술 발전을 이뤄내는 것도 막기 어렵다. 크리스 폴 선임고문은 “세상에 똑똑한 사람은 많다. 그들이 첨단기술을 악용해 나쁜 행위를 하는 것을 막을 수 없다”라고 말했다.

김윤 SK텔레콤 CTO도 “많은 사람이 미래에 AI가 발전해 인간을 지배하게 되는 것 아니냐고 묻는다. 그런데 그럴 확률은 나쁜 행위자가 AI 등 기술적 발전을 악용할 확률보다 훨씬 낮다”라며 첨단기술이 악용되는 사례를 경계했다.

18일 최종현 학술원 주관으로 ‘첨단과학과 동북아 지정학 위기’ 웨비나가 열렸다. ⓒ 최종현 학술원

그렇다면 기술의 발전 속도를 늦춰야 할까? 크리스 폴 선임고문에 의하면 그것은 ‘패자의 게임’이다. 그는 “기술이 좋은 쪽으로만 발전되지 않는다고 문을 걸어 잠그고 비밀을 유지하면서 기술을 보호하겠다는 생각은 패배하는 지름길”이라고 일축했다. 기술은 어디에서나 진화하며 즉시 전파되기 때문에 막는다고 막을 수 있는게 아니라는 의미다.

크리스 폴 선임고문은 “우리에게 남아있는 답은 더 많이 투자하고 더 많이 경쟁하고 더 많이 혁신하는 것뿐”이라고 의견을 제시했다. 그는 혁신에 필수적인 가치와 규범을 공유하는 국가가 이 경주의 승자가 될 것이라고 확신했다.

이어 “그렇게 함으로써 새롭고 파괴적인 기술의 기회는 활용하면서 위험은 줄일 수 있다”라고 강조했다.

각국의 우주 선점 경쟁 치열우주산업과 첨단기술

최근 가장 주목을 끌고 있는 첨단기술은 우주기술이다. 인류는 1969년 아폴로 11호로 달에 첫발을 내디뎠다. 아폴로 17호를 끝으로 달에 가지 않았던 인류는 다시 2024년 달에 사람을 보낸다. 미 항공우주국(NASA)의 달 탐사 프로젝트명은 ‘아르테미스’. 그리스 신화에서 아폴로의 쌍둥이 누나인 달의 여신 ‘아르테미스’를 지칭한다.

한미정상회담의 성과로 우리나라도 국제적인 달 탐사계획 ‘아르테미스’ 프로젝트에 참여하게 됐다. (사진=아르테미스 프로젝트 지도) ⓒ 위키미디어

지난 5월 열린 한미 정상회담 성과 중 하나로 우리나라도 참여를 확정하면서 호주, 캐나다, 일본, 룩셈부르크, 이탈리아, 영국, 아랍에미리트(UAE), 우크라이나 등 9개 국가와 함께 역사적인 우주 탐사 계획에 합류하게 됐다.

아르테미스 프로젝트는 단순한 달 탐사 프로그램이 아니다. 미국은 물론 참여국들은 이를 기반으로 우주 개발로 도약하겠다는 각기 원대한 계획을 세우고 있다. 각국이 선점하고자 치열하게 움직이고 있는 우주 분야에 첨단기술은 어떤 영향을 줄까?

케이틀린 존슨(Kaitlyn Johnson) CSIS 항공 우주 안보 프로젝트 연구원은 “첨단기술이 우주기술에 미치는 영향은 매우 크다”라며 “첨단기술을 통해 막대한 양의 데이터를 처리하며 이상 현상을 파악하거나 검토해야 할 장소를 줄이는 데 도움을 줄 수 있다. 또한 해상도가 높은 군사위성 등을 통해 이중화 체계를 구성할 수도 있다”라고 설명했다.

케이틀린 존슨 CSIS 항공 우주안보 프로젝트 연구원은 우주 기술에 대한 책임 을 물을 수 있는 공동 규범과 표준이 필요하다고 말했다. ⓒ 최종현 학술원

전문가들은 우주 개발이 과거 미국과 러시아의 우주 경쟁과 같이 새로운 형태의 국제 경쟁으로 촉발될 수 있다는 점을 지적한다. 과거를 재현하지 않기 위해서는 국제적인 협력과 상호 신뢰에 의한 규범과 가치가 필요하다.

크리스 폴 선임고문은 “우리 경제에 중대한 영향을 미치는 이런 기술은 각국이 협력관계를 가지고 신뢰를 기반으로 해야 한다”라며 “신뢰는 공유된 규범과 가치에서 비롯된다”라고 말했다.

케이틀린 존슨(Kaitlyn Johnson) CSIS 항공 우주 안보 프로젝트 연구원은 “현재 우주기술 전반에 걸쳐 비판적인 상황이 펼쳐졌을 때 그 견해와 책임소재를 묻기 어렵다는 점이 가장 큰 문제점”이라고 지적하고 “공동 규범을 정할 때 긍정적인 규범에 대한 논의뿐만 아니라 다양한 실험과 시스템에 대한 공격을 탐지하고 이에 대한 책임을 어떻게 물을 것인가를 정하는 비판적인 규범과 표준을 설정하고 이를 지키도록 해야 한다”라고 촉구했다.

(1565)

태그(Tag)

전체 댓글 (0)

과학백과사전