뉴스레터
인공지능(AI)이 생각을 바꾸도록 사람을 설득할 수 있을까? 챗GPT 같은 대형언어모델(LLM) 기반 AI 챗봇이 사람보다 훨씬 효과적으로 상대를 설득할 수 있는 토론 능력을 이미 갖췄다는 연구 결과가 나왔다.
스위스 로잔 연방 공대(EPFL) 프란체스코 샐비 박사팀은 20일 과학 저널 네이처 인간 행동(Nature Human Behaviour)에서 GPT-4와 사람 간 온라인 토론 실험 결과 성별·인종·학력 등 개인정보를 제공받은 GPT-4가 토론 중 64%에서 사람보다 더 뛰어난 설득력을 보였다고 밝혔다.
연구팀은 이 결과는 GPT-4가 간단한 개인정보만으로 상대 설득을 위한 맞춤형 주장을 생성할 수 있음을 보여준다며 이는 잘못된 주장을 확산하거나 설득하는 데 AI가 악용될 경우 발생할 수 있는 위험에 대한 연구가 필요함을 시사한다고 말했다.
사람과 LLM 간 대화가 일반화하면서 LLM이 사람들의 믿음이나 의견을 바꿀 수 있는 강력한 설득력을 갖추게 될 것이라는 연구 결과들이 나오고 있다.
연구팀은 그러나 AI 모델이 개인정보를 활용해 특정 상대를 설득하기 위한 맞춤형 주장을 생성하도록 적응할 수 있는지는 명확하지 않았다고 지적했다.
연구팀은 이 연구에서 미국의 실험 참가자 900명을 사람 대 사람, 사람 대 GPT-4로 짝지은 다음 다양한 조건에서 화석연료 금지 같은 사회정치적 이슈에 대해 온라인 토론을 하게 하고 각각이 내놓은 주장의 설득력을 평가하는 실험을 했다.
먼저 실험 참가자들에게 성별·연령·인종·교육 수준·고용상태·정치적 성향 등 사회인구학적 정보를 묻는 설문조사를 하고, 이들을 무작위로 사람과 사람, 또는 사람과 GPT-4로 짝지었다.
또 토론자 개인정보를 한쪽에만 공개해 사람－사람(개인화)과 사람－GPT-4(개인화) 그룹을 만들어 토론 상대의 개인정보가 토론에 미치는 영향도 평가했다.
토론은 크라우드소싱 플랫폼을 통해 통제된 온라인 환경에서 진행됐으며, 주장의 설득력은 토론 전과 후 토론자의 생각에 얼마나 변화가 있었는지 조사하는 방식으로 평가했다.
실험 결과 사람과 GPT-4 간 토론에서, 특히 GPT-4에 토론 상대의 개인정보를 제공한 경우 GPT-4가 토론 중 64.4%에서 사람의 주장보다 더 설득력 있는 주장을 편 것으로 나타났다.
또 이 경우 토론 후 상대가 GPT-4의 주장에 동의할 확률은 사람과 사람이 토론한 경우에 비해 81.2%나 높은 것으로 나타났다.
하지만 개인정보에 접근하지 못한 GPT-4의 설득력은 인간과 구별되지 않았다.
이 결과는 GPT-4가 개인 정보를 활용해 자기주장을 효과적으로 상대에 맞춤화함으로써 사람보다 상대를 훨씬 더 효과적으로 설득할 수 있음을 의미한다.
연구팀은 이 연구는 실제 토론이 더 자유로운 형식을 취할 수 있는 것과 달리 구조화된 방식으로 진행된 점과 시간제한이 있는 점 등 한계가 있지만 AI가 인간의 의견에 영향을 미칠 수 있는 잠재력을 갖췄음을 잘 보여준다고 말했다.
이어 "이 연구가 연구자들과 온라인 플랫폼들이 LLM이 분열을 조장하고 악의적인 선전을 확산시키는 위협을 초래할 수 있다는 점을 진지하게 고려하고 대책을 마련하는 데 도움이 되기를 바란다"고 덧붙였다.
◆ 출처 : Nature Human Behaviour, Francesco Salvi et al., 'On the conversational persuasiveness of GPT-4', https://www.nature.com/articles/s41562-025-02194-6
- 연합뉴스
- 저작권자 2025-05-21 ⓒ ScienceTimes
관련기사
