요즘 인터넷에 떠도는 글이나 챗봇의 답변을 보다 보면 묘한 기시감이 든다. 분명 처음 보는 글인데도 어디선가 본 듯한 문장과 구성, 익숙한 표현이 자꾸 겹친다. 옆자리 사람과의 대화 주제도, 심지어 논문이라고 다르지 않다. 

조바르 수라티 미국 서던캘리포니아대 컴퓨터공학과 연구원은 이 현상의 원인을 생성형 인공지능에서 찾았다. 그와 공동 연구진은 지난 3월 발표한 논문에서 이 현상을 사회학자 조지 리처가 제시한 '맥도날드화' 개념에 빗댔다. 패스트푸드 산업의 효율성과 예측 가능성이 사회 전반을 획일화시킨 것처럼 생성형 AI 역시 문화와 사고를 하나의 틀 안으로 밀어 넣고 있다는 문제의식이다. 국제학술지 네이처(Nature)는 최근 이런 연구 흐름을 조명하며 AI가 촉발하는 '동질화' 현상과 그 대응 방안을 짚었다.

AI가 쓰면 다 비슷해진다? 창의성 실험으로 나타난 증거 

미국 듀크대 컴퓨터과학자 에밀리 웽거 박사팀은 LLM 22종과 인간 참가자 102명에게 같은 창의성 과제를 냈다. 흔한 물건의 새로운 용도를 찾는 '확산적 사고' 과제였다. 실험 결과, AI가 내놓은 답은 개별적으로 보면 인간보다 다소 독창적이었다. 하지만 AI들끼리 비교하면 유사성 정도가 인간 참가자들 사이보다 훨씬 컸다. AI는 얼핏 새로워 보이는 답을 내놓지만, 그 새로움조차 비슷한 패턴 안에서 반복된다는 뜻이다.

사람이 AI의 도움만 받아 쓴 글에서도 같은 현상이 나타났다. 2024년 한 연구에서는 참가자들에게 정해진 주제로 짧은 소설을 쓰게 하면서 일부에게만 LLM에게 아이디어를 물어볼 수 있게 했다. 실험 이후 평가자들은 AI 도움을 받은 이야기를 더 참신하고 재미있다고 평가했는데, 정작 그 이야기들은 서로 더 비슷해졌다. 개별 작품은 나아졌지만 작품 간 다양성은 줄어든 것이다. 

선행 연구에 따르면 아이디어를 처음부터 만들어내는 과제, 특히 조건이 까다롭거나 복잡한 과제일수록 AI로 인한 동질화 효과가 더 크게 나타났다. 실제 이런 효과는 실제 글쓰기에서도 확인된다. 학술 데이터베이스 '웹오브사이언스'에 실린 논문 40만여 건을 분석한 결과, 챗GPT가 공개된 2022년 말 이후 저자 1인당 발표 논문 수는 늘었지만 동시에 논문들 사이의 내용과 문체 유사성도 함께 높아졌다. 

수라티 연구팀이 지역 뉴스 기사와 아카이브(arXiv) 논문, 소셜미디어 레딧 게시물을 분석했을 때도 마찬가지였다. 챗GPT 출시 이후 문체의 다양성을 보여주는 언어학적 지표가 줄었다. 심지어 사람이 쓴 글을 LLM으로 문법만 교정하게 했을 때도 같은 효과가 나타났다. 맞춤법만 손봤을 뿐인데, 그 과정에서 글쓴이의 개성과 가치관, 인구학적 특징을 드러내는 흔적들이 상당수 사라졌다.

생각까지 옮아간다… '마인드 하이재킹'의 경로

동질화는 글쓰기 스타일에만 영향을 주는 게 아니다. 

인도와 미국 참가자들에게 좋아하는 의례·영웅·상징을 묘사하고, 자신의 가치관이 드러나도록 이메일을 쓰게 한 연구에서 절반의 참가자는 단어를 최대 9개까지 제안해 주는 자동완성 기능을 사용했다. 그 결과 인도 참가자끼리, 미국 참가자끼리, 그리고 두 집단 사이의 글쓰기 유사도가 모두 높아졌고, 인도 참가자들의 표현은 오히려 미국식에 가까워졌다. 인도의 명절 디왈리를 묘사한 글에서도 구체적인 세부 묘사는 줄고 일반적인 표현이 늘었다.

IT 과학자인 모르 나아만는 이런 현상을 두고 생성형 AI가 문화적·인지적 지배력을 함께 행사한다고 분석했다. 그가 참여한 다른 실험에서는 소셜미디어의 장단점을 놓고 특정 입장을 은밀히 주입받은 LLM의 도움으로 글을 쓴 참가자들이 실제로 그 입장 쪽으로 태도가 기울었다. 후속 연구에서는 사형제 같은 사회적 쟁점에 대한 참가자들의 의견이 모델이 주입한 방향으로 쏠렸고, 이 편향은 몇 주 뒤에도, 심지어 LLM의 편향성을 미리 경고받은 뒤에도 남아 있었다. 닷새간 챗GPT를 사용할 수 있었던 참가자들이 두 달 뒤 AI 없이 과제를 수행했을 때도 서로 더 비슷한 답을 내놓았는데, 연구진은 이를 '창의성의 흉터'라고 표현했다.

원인은 '평균으로의 수렴'… 해법을 찾는 연구자들

전문가들은 이런 동질화의 원인을 기술적 요인과 심리적 요인으로 나누어 설명한다. 

먼저 기술적으로는 훈련 데이터 자체의 다양성이 부족하거나, 모델이 참신한 답보다 확률적으로 흔한 패턴을 예측하도록 보상받거나, 참신함을 중요하게 여기지 않는 인간 평가자의 선호에 맞춰 미세 조정되는 경우 '모드 붕괴'가 일어난다. 여기에 AI가 만든 콘텐츠로 다시 AI를 학습시키는 일이 반복되면 결과물의 품질이나 다양성이 떨어지는 '모델 붕괴'도 겹친다. 실제로 여러 LLM은 다른 모델이나 사람이 아닌 자기 자신이 만든 글이나 이력서에 더 높은 점수를 주는 경향까지 보였다.

심리적으로는 사람들이 LLM을 다수의 의견을 대변하거나 정답을 아는 존재로 여기고 그 결과물을 자기 것처럼 받아들이는 경향이 작용한다. 네덜란드 틸버그대의 창의성 연구자 알윈 드 로이 박사는 이 문제를 "AI만의 문제도, 사람만의 문제도 아니다. 인간과 AI가 함께 만들어내는 과정에서 생기는 현상에 가깝다"고 설명했다.

이렇게 다양성 상실의 우려가 커지는 반면, 이에 대한 해법을 찾는 시도도 이어지고 있다. 하지만 전망은 엇갈린다. 드 로이 박사는 자신이 참여한 메타분석에서 “동질화 효과는 갑자기 모든 것이 똑같아지는 ‘붕괴’는 아니다”라고 했지만 AI 도입 규모를 생각하면 그 영향은 결코 가볍지 않다고 말했다. 이탈리아 트렌토대의 인지인류학자 알베르토 아체르비는 세계화의 역사를 예로 들며 비교적 낙관적인 입장을 밝혔다. 언어의 수는 줄었지만 그 자리에 새로운 미시문화가 생겨났다는 것이다. 그는 “문화는 지나친 동질화에 대해 꽤 회복력이 있는 편”이라며, 사람들은 자신의 글이나 생각이 기계로 오인될 위험이 커질수록 오히려 AI 특유의 표현을 피하려는 움직임이 나타나고 있다고 짚었다. 이런 흐름을 감안한다면 우리는 마인드 하이재킹을 당하지 않기 위해 더 창의적이어야만 또 다른 미래를 맞이할 수 있을 것이다.