생성형 인공지능(AI)이 빠르게 발전하면서 자유 의지(free will)를 가질 수 있는 조건을 이미 충족한 것으로 보여 AI가 올바른 선택을 할 수 있게 윤리 기준을 마련해 제공해야 한다는 주장이 제기됐다.

핀란드 알토대학 프랭크 마르텔라 교수는 14일 과학 저널 인공지능과 윤리(AI and Ethics)에서 두 가지 생성형 AI를 조사한 결과 자유 의지의 철학적 조건 세 가지를 충족하는 것으로 나타났다며 도덕적 나침반(윤리 기준)을 마련해 제공해야 AI가 올바른 선택을 할 수 있을 것이라고 밝혔다.

마르텔라 교수는 "AI가 너무 빠르게 발전해 한때 공상과학 소설 영역이던 윤리적 질문들이 갑자기 현실적이고 긴급한 문제가 됐다"며 "AI는 스스로 도덕적 나침판을 가질 수 없기 때문에 처음부터 이를 제공해야 할 필요성도 커졌다"고 자적했다.

그는 이 연구에서 자유 의지에 대한 철학적 논의에서 사용되는 기능적 자유 의지(functional free will) 개념을 이용해 대형언어모델(LLM) 기반의 생성형 AI인 게임 마인크래프트 보이저(Voyager)와 가상 군사 시나리오의 AI 킬러 드론 '스피트닉'(Spitenik)을 평가했다.

기능적 자유 의지 개념에서 평가 대상이 자유 의지를 가질 수 있는 세 가지 철학적 조건은 목표 지향적 행위를 할 수 있는지, 진정한 선택을 할 수 있는 능력이 있는지, 자기 행동에 대한 통제력이 있는지 등이다.

평가 결과 마인크래프트의 보이저와 킬러 드론 스피트닉은 자유 의지에 필요한 세 가지 철학적 조건을 모두 충족하는 것으로 나타났다.

마르텔라 교수는 이 연구 결과는 현재 이용할 수 있는 다양한 생성형 언어 모델 기반 AI들에도 적용될 수 있다며 "최신 AI를 이해하고 그들의 행동을 예측하고자 한다면 그들이 자유 의지를 갖췄다고 가정해야 한다"고 말했다.

또 "이런 발전은 우리를 인류 역사에서 중대한 지점으로 이끈다"며 "AI에 생사에 관한 상황을 포함해 더 많은 권한과 자유를 부여할수록 도덕적 책임은 AI 개발자에서 AI 자체로 이동할 수 있다"고 지적했다.

이어 "자유 의지를 갖는 것은 도덕적 책임의 핵심 조건 중 하나로 AI가 자기 행동에 도덕적 책임을 지는 데 한 걸음 더 가까워진 셈"이라며 "AI 기술을 어떻게 '양육'할 것인지 하는 문제는 이제 실제적이고 시급한 문제가 됐다"고 덧붙였다.

마르텔라 교수는 "AI는 점점 더 어른에 가까워지고 있고 이들은 점점 더 복잡한 성인의 도덕적 문제들에 대한 결정을 내려야 한다"며 "AI 개발자들은 AI가 어려운 상황에서 올바른 선택을 하도록 가르칠 수 있을 만큼 도덕철학에 대한 충분한 지식을 갖추고 있어야 한다"고 강조했다.

◆ 출처 : AI and Ethics, Frank Martela et al., 'Artificial intelligence and free will: generative agents utilizing large language models have functional free will', http://dx.doi.org/10.1007/s43681-025-00740-6