한국과학기술원(KAIST)은 뇌인지과학과 이상완 교수 연구팀이 인간 뇌의 학습 원리를 딥러닝에 적용해 인공지능(AI) 모델도 안정적으로 학습시키는 새로운 기술을 개발했다고 1일 밝혔다.

우리 뇌는 현재 벌어지는 일을 단순히 인식하는 데 그치지 않고 '다음에 무슨 일이 일어날까'를 먼저 예측하고, 실제 결과가 다르면 그 차이를 줄이는 방향으로 스스로 수정한다. 바둑에서 상대의 다음 수를 예상했다가 빗나가면 전략을 바꾸는 것과 비슷하다.

이 같은 정보처리 방식을 '예측 부호화'라고 한다.

과학자들은 이 원리를 AI에 적용하려 했지만 신경망이 깊어질수록 오차가 특정 부위에 몰리거나 아예 사라져 성능이 떨어지는 문제가 반복되면서 어려움을 겪었다.

연구팀은 AI가 결과만 예측하는 것이 아니라 '예측 오차가 앞으로 어떻게 변할지'까지 다시 예측하도록 만들었다. 연구팀은 이를 '메타 예측'이라 설명하는데 '틀림을 한 번 더 생각하는 AI'를 말한다. 이 방식을 적용하면서 깊은 신경망에서도 학습이 멈추지 않고 안정적으로 진행됐다.

총 30가지 실험 중 29개에서 현재 AI의 표준 학습법인 '역전파'보다 높은 정확도를 기록했다고 연구팀은 설명했다. 역전파는 AI가 '틀린 만큼 거꾸로 되돌아가며 고치는' 현재의 대표적 학습 방법이다.

기존 AI 학습방식(역전파)은 모든 층이 서로 긴밀하게 연결돼 있어 전체 네트워크를 한 번에 계산하고 한 번에 수정해야 하지만 이 방식은 뇌처럼 분산적·부분적으로 학습해도 거대 AI 모델을 잘 학습시킬 수 있음을 입증한 것이라고 덧붙였다.

이번 기술은 전력 효율이 중요한 뉴로모픽 컴퓨팅, 환경에 적응해야 하는 로봇 AI, 기기 내부에서 작동하는 엣지 AI 등 다양한 분야로 확장될 것으로 기대된다.

이상완 교수는 "뇌 구조를 단순히 모방한 것이 아니라 뇌의 학습 원리 자체를 AI가 따르도록 만든 것이 이번 연구의 핵심"이라며 "뇌처럼 효율적으로 배우는 인공지능의 가능성을 열었다"고 말했다.