사용자와 밀접한 정보만 선별·저장해 맞춤형 답변을 더 정확하고 빠르게 내놓는 개인화 인공지능(AI) 기술이 나왔다.

10일 울산과학기술원(UNIST)은 컴퓨터공학과 공태식 교수팀이 온디바이스 검색증강생성(RAG) 기술인 '에픽'(EPIC)을 개발했다고 밝혔다.

온디바이스 검색증강생성은 챗GPT와 같은 언어모델이 사용자 기기 안에 저장된 웹페이지나 이전 대화 내용을 먼저 검색하고, 여기서 찾은 정보를 보태 답변을 만들게 하는 기술이다.

언어모델이 미리 학습하지 못한 최신 정보나 사용자 개인적 기록까지 답변에 반영할 수 있어 더 정확하고 유용한 답변을 만들 수 있다.

기존 온디바이스 검색증강은 개인정보를 기기 밖으로 보내지 않아 사생활 침해 우려를 줄일 수 있지만, 휴대전화 등 기기에서 메모리를 지나치게 많이 차지하는 문제가 있었다.

연구팀이 개발한 '에픽'은 각 자료가 사용자 취향과 얼마나 가까운지를 빠르게 계산해 관련성이 낮은 자료를 먼저 걸러낸다.

이어 남은 자료는 언어모델이 다시 확인하는 방식을 통해 꼭 필요한 정보만 남겨 검색 정보를 저장하는 공간을 줄일 수 있다.

또 '에픽'은 정보를 저장할 때 원 정보뿐만 아니라 이 정보를 어떤 상황에서 활용할지를 담은 사용 지침을 함께 붙여 저장해 더 정확하고 빠른 검색을 할 수 있다.

만약 해산물 알레르기가 있는 사용자가 "제주도에서 먹을 음식을 추천해 줘"라고 요청하면, '에픽'은 질문과 해산물 알레르기를 연결하고, 관련 사용 지침이 붙은 제주 음식 자료를 찾아 답변 모델에 전달하는 식이다.

연구팀은 실제 추천·토론·설명·대화 상황을 다룬 네 개 벤치마크와 세 종류 언어모델 조합으로 검증한 결과 검색용 저장 공간과 검색 시간은 줄고, 사용자 취향을 반영한 답변 정확도는 높아졌다고 설명했다.

위키피디아에서 맞춤형 추천 정보를 찾는 PrefWiki 벤치마크의 경우 저장 공간은 기존 648.96MB에서 0.27MB로 약 2천404분의 1이 됐다.

네 개 벤치마크 평균 검색 시간은 96.5밀리초(㎳·1㎳는 1천분의 1초)에서 3밀리초로 줄었고, 사용자 취향 반영 정확도는 기존 최고 성능 기술보다 평균 18.79%포인트 높았다.

서버가 아닌 실제 개인 기기에서도 '에픽'이 작동하는지를 검증했을 때 검색용 메모리를 1MB 미만으로 유지하면서 질문 한 건당 5.21∼29.35밀리초 만에 필요한 자료를 찾았다.

공태식 교수는 "개인화된 AI가 사용자 맞춤 답변을 내놓기 위해 정보를 기억하는 방식을 '많이 저장하는 것'에서 '사용자에게 가치 있는 것을 저장하는 것'으로 바꾼 연구"라며 "스마트폰과 노트북 같은 일상 기기에서 빠르게 작동하는 맞춤형 AI 개발에 기여할 것"이라고 말했다.

과학기술정보통신부와 정보통신기획평가원, 한국연구재단 지원을 받은 이번 연구 결과는 지난 7월 서울에서 열린 AI 3대 국제학회인 '국제머신러닝학회'(ICML·International Conference on Machine Learning)에서 공개됐다.