한국과학기술원(KAIST)은 뇌인지과학과 백세범 교수 연구팀이 뇌 신경망의 원리를 모사해 효율적인 학습이 가능한 인공지능(AI) 기술을 개발했다고 23일 밝혔다.

인공지능의 개념은 올해 노벨 물리학상을 받은 제프리 힌턴 캐나다 토론토대 교수가 1986년 제시한 '오류 역전파'(error backpropagation) 학습에 기반한다. 오류 역전파 학습은 최종 끝단에서 도출된 오류에 대해 이전 단계로 돌아가 계산한 뒤 가중치를 부과하는 '가중치 수송' 방법으로 답을 내는 학습 방식이다. 신경망을 일일이 연결하지 않아도 데이터를 통해 학습할 수 있어 인공신경망 훈련을 혁신했다는 평가를 받지만, 대규모 데이터의 학습과 막대한 계산작업이 필요하다는 한계가 있다. 이에 뇌의 학습 원리를 닮은 생물학적으로 타당한 인공신경망 모델에 대한 연구가 활발히 진행되고 있다.

영국 옥스퍼드대학과 딥마이드 공동연구팀은 2016년 가중치 수송을 사용하지 않고도 오류 역전파 학습이 가능한 인공지능 개념을 제시했으나 학습 속도가 느리고 정확도가 낮아 적용에 어려움이 있었다.

인간의 뇌는 부분적인 정보만을 이용해 학습해야 하므로, 인공신경망과 같이 역방향으로 계산해 순방향 가중치를 두는 방식의 학습이 원천적으로 불가능하다. 뇌는 외부 세상으로부터 감각 정보를 받아들이기 전부터도 자발적으로 무작위 신경 활동을 통해 학습을 시작한다. 연구팀은 뇌의 이런 '무작위 사전학습'에 주목했다.

생물학적으로 뇌와 유사한 신경망을 구현한 뒤 의미 없는 무작위 정보(random noise)를 사전 학습시켜 가중치 수송 없이도 기존 인공신경망과 비슷한 수준의 학습 효율을 얻을 수 있음을 보였다. 사전 정렬된 가중치로 인해 가중치 수송 없이 빠르고 정확한 학습이 가능하다. 사전 무작위 정보 학습은 후속 학습에서 신경망의 일반화 능력을 높여 '배우는 방법을 배우는 '메타 학습'(meta learning)의 성격을 갖게 된다고 연구팀은 설명했다.

백세범 교수는 "기계학습에서의 가중치 수송 문제를 해결함으로써 인공신경망의 학습과 뇌의 학습 사이 간극을 좁힐 수 있는 새로운 관점을 제시했다"며 "차세대 인공지능 개발에 기여할 것"이라고 말했다.

이번 연구 성과는 오는 12월 10∼15일 캐나다 밴쿠버에서 열리는 인공지능 학회 '제38회 신경 정보처리학회'(NeurIPS)에서 발표된다.