뉴스레터
한국과학기술원(KAIST) 이상완·정민환 교수 연구팀은 사람처럼 스스로 의심하고 지속적으로 검증을 시도하는 신개념 인공지능(AI) 모델을 개발했다고 27일 밝혔다.
챗GPT 등 거대언어모델(LLM)은 대규모 텍스트를 학습해 인간과 유사하게 언어를 생성할 수 있지만, 잘못된 정보를 그럴듯하게 사실처럼 제시하는 '환각'(Hallucination) 현상은 해결해야 할 과제이다.
강화학습 알고리즘을 통해 확신을 굳혀 가는 데에는 익숙하지만, 출력값을 스스로 평가할 수 없기 때문에 가설을 의심하지 못하고 이는 과도한 자신감으로 이어져 환각 오류를 일으키게 된다.
하지만 인간과 같은 동물은 인공지능(AI)과 달리 확실한 보상이 주어지는 경로가 있음에도 때때로 실패가 예견되는 목표에 대해 가설을 세우고 검증하려 시도한다. 이를 '안정성과 유동성의 딜레마'(Stability-flexibility dilemma)라고 하는데, 최근 뇌과학과 AI 분야에서 이처럼 동물의 뇌가 안정성과 유동성 사이에서 균형점을 찾아가는 과정에 대한 연구가 활발히 진행되고 있다.
연구팀은 동물의 현재 상황에 대한 가설을 세우고, 가설의 예측 오류를 바탕으로 행동 전략을 비대칭적으로 세우는 새로운 적응형 강화학습 이론과 모델을 제안했다.
기존 인공지능 모델은 효율적인 문제 해결에만 집중하다 보니 동물의 행동을 설명하기 어려웠다. 연구팀은 개발한 모델을 이용해 예상치 못한 사건에 대한 동물의 행동을 최신 인공지능 모델 대비 최대 31%, 평균 15% 더 잘 예측할 수 있었다고 설명했다.
또 기존 보상학습 회로로 알려진 뇌 기저핵의 선조체 부위 도파민 수용체가 예상한 사건을 마주한 경험과 예상치 못한 사건을 마주한 경험을 각각 부호화해 행동 전략을 조절하는 역할을 한다는 것을 확인했다. 스스로 추정한 가설을 의심하고, 의심이 확인되면 즉시 새로운 가설을 받아들이는 이 같은 뇌의 추론 방식에 대한 이해를 통해 AI의 환각 현상 완화에 기여할 것으로 기대된다.
이상완 교수는 "인공지능의 강화학습 이론만으로 설명할 수 없는 뇌의 가설 기반 적응학습 원리를 제시했다"며 "기저핵 내 보상학습 회로와 관련된 중독이나 강박증과 같은 정신질환의 뇌과학적 원인을 밝히는 데 기여할 것"이라고 말했다.
이번 연구 성과는 국제 학술지 '네이처 커뮤니케이션스' (Nature Communications) 지난 20일 자에 실렸다.
- 연합뉴스
- 저작권자 2025-03-03 ⓒ ScienceTimes
관련기사
