기획·칼럼

실패를 두려워하지 않았던 딥러닝의 대가들

[기상천외한 과학자들의 대결] (18) 제프리 힌턴과 요슈아 벤지오

인공지능(AI)이란 무엇인가. 간단히 말하면 ‘인간의 지적 능력을 컴퓨터로 구현하는 기술’이라 할 수 있다. AI는 최근 갑자기 시작된 기술이 아니다.  인공지능 연구는 1956년 AI라는 용어가 처음으로 등장한 이후 오랫동안 계속됐다. 하지만 ‘인간을 닮은 컴퓨터’는 좀처럼 나오지 않았다.

오랜 침체기를 거치면서 인공지능 연구는 ‘딥러닝’이라는 기계 학습법을 통해 새로운 전환점을 맞이하게 된다. ‘알파고’가 바로 이 ‘딥러닝’을 통해 3000만 건의 기보를 학습한 후 이세돌 9단을 이기면서 사람들의 관심이 ‘인공지능의 학습법’에 쏠렸다.

인간은 인간의 뇌를 모방해 새로운 지능을 창조했다. ⓒ 게티이미지뱅크

거듭된 실패 끝에 성공한 딥러닝의 대가제프리 힌턴’

제프리 힌턴(Geoffrey Hinton) 캐나다 토론토대학 교수는 ‘딥러닝의 아버지’로 불린다. 현재의 알파고와 같은 인공지능이 존재하게 된 주요 요인인 ‘딥러닝’을 개발했기 때문이다.

인간은 뇌 신경세포(뉴런)를 통해 스스로 사고하고, 유추하고 학습한다. 인간의 뇌는 약 1000억 개의 뉴런으로 구성되어 서로 유기적으로 작동한다. 뉴런은 짧은 전기 자극을 만들어 다른 뉴런에게 전달하는 역할을 한다. 과학자들은 AI도 인간 뇌가 작동하는 원리처럼 구현되길 원했다. 그래서 나온 것이 인공 신경망(ANN, Artificial Neural Network) 연구였다. 인공 신경망은 인간의 뉴런 개념을 수학적으로 적용한 것이다.

AI의 대가 제프리 힌턴 캐나다 토론토대학 교수. ⓒ 김은영/ ScienceTimes

딥러닝도 인공 신경망 모델에서 출발한다. 힌턴 교수는 기존 인공 신경망 연구의 단점을 보완해 현재의 딥러닝 방식을 제시했다. 이제 딥러닝을 통하면 컴퓨터는 분류 기준 없이 정보를 입력해도 알아서 비슷한 집합을 묶고 상하 관계를 파악할 수 있다. 기계가 인간 뇌의 뉴런처럼 서로 정보를 주고받으며 스스로 학습을 하게 된 것이다.

하지만 힌턴은 30년간 실패를 거듭하며 잊힐 뻔했다. 오랜 연구 끝에 발표한 AI 기술들이 매번 ‘인간을 닮지 않았기’ 때문이었다. 힌턴이 처음 인간의 뇌를 닮은 컴퓨터를 만들었다고 발표한 시기는 1983년. 하지만 그가 개발한 첫 알고리즘은 그다지 쓸모가 없었다. 그 후 1986년 다시 공개한 알고리즘도 마찬가지였다. 1993년, 2000년도에도 마찬가지였다.

하지만 2006년도에는 달랐다. 그는 제한된 볼츠만 머신(Restricted Boltzmann Machine)을 통해 인공신경망(ANN)의 고질적인 문제를 해결했다. 이후 연구팀과 함께 개발을 거듭한 결과 2012년 세계 이미지넷 경연대회(ILSVRC)에서 공개한 합성곱 신경망(CNN)인 알렉스넷(Alexnet) 모델로 승승장구하며 ‘딥러닝의 아버지’로 불리게 된다.

또 다른 AI 천왕요슈아 벤지오’

제프리 힌턴 교수가 딥러닝의 아버지라면 요슈아 벤지오(Yoshua Benjio) 캐나다 몬트리올 대학 교수이자 밀라 AI 연구소장은 어린 나이에 딥러닝을 완성한 천재다. 그는 딥러닝에 중요한 기반 알고리즘의 한계를 수학적으로 밝혀냈다.

요슈아 벤지오(Yoshua Bengio) 캐나다 몬트리올 대학 교수이자 밀라(MILA) AI 연구소장 ⓒ YOUNG SAMSUNG (https://www.youtube.com/watch?v=L7nnSiHamCY&feature=emb_logo)

벤지오 교수는 1985년 제프리 힌턴 교수의 논문을 보고 인공 신경망 연구에 빠져들었다. 1943년부터 시작된 인공 신경망 연구는 여러 층으로 구성된 신경망을 학습시키는 데 난항을 겪어왔다.

더욱이 신경망 분야는 두 번의 AI 암흑기를 거치며 연구자들에게 관심이 사라진 분야였다. 때문에 논문을 쓰면 거절당하기 일쑤였다. 하지만 그는 자신이 가야 하는 방향이 맞다고 생각하고 주변을 설득하며 연구를 지속했다.

그 결과 벤지오 교수는 강력한 딥러닝 인공지능 알고리즘인 GAN(Generative Adversarial Nets) 알고리즘을 창시하게 된다. 최근에는 차세대 음성인식 성능 혁신을 위한 신경망 네트워크(Recurrent Neural Network) 설계 및 학습 알고리즘 개발을 진두지휘하며 이 분야의 최고 권위자로 등극했다.

앞으로 인류는 이들이 개발한 딥러닝을 통해 한 차원 더 높은 문명의 진화를 경험하게 될 것이다. 그런데 문제가 있다. 이 딥러닝의 끝을 아무도 예측할 수 없다는 데 있다. 작동이 잘 되기는 하는데 어떻게 작동되는지는 모르기 때문이다.

딥러닝으로 촉발된 인공지능의 발달이 앞으로 인류에게 프로메테우스가 준 불이 될지, 판도라 상자가 될지는 모를 일이다. 다만 이제까지 과학이 그러했듯이 인공지능의 발달이 인류에게 도움이 되길 그리고 인류가 풀지 못하는 난제를 인공지능이 풀어줄 것이라고 기대할 뿐이다.

(6397)

태그(Tag)

전체 댓글 (0)

과학백과사전