June 22,2018

‘갑질’ 부추기는 AI 음성비서

지나칠 정도로 순종적인 것이 결점

인쇄하기 사이언스타임즈 라운지 스크랩
FacebookTwitter

요즘 전 국민적 공분을 사고 있는 한 대기업 회장 일가의 횡포를 보도한 미국 뉴욕타임스는 갑질을 뜻하는 단어를 한국어 발음 그대로인 ‘Gapjil’로 표현했다. 영어엔 ‘갑질’을 정확히 표현하는 단어가 없기 때문이다.

‘포천’지가 미국 500대 기업을 대상으로 한 연구에 의하면 창업자 이후 가족이 승계한 2세 경영 때부터는 다른 기업보다 성과가 뒤처지는 것으로 나타났다. 또 다른 연구에 의하면 미국 가족기업 중에서 3세 승계에 성공한 사례는 10%에 지나지 않았다.

이런 연구 결과는 갑질과 관련 지어 생각해볼 수도 있다. 2016년 ‘하버드 비즈니스 리뷰’에 발표된 논문에 의하면 금수저 출신의 리더일수록 자기중심적이 된다고 했다. 즉, 어릴 적부터 부유하게 자란 2세 이후 경영인들은 자아도취 성향이 강해 그만큼 공감능력이나 타인에 대한 배려가 부족한 성향을 띠기 때문이다.

AI 음성비서는 지나치게 순종적이어서 평범한 사용자들에게 무례함을 학습시킬 수 있다는 지적이 나왔다. ⓒ Public Domain

AI 음성비서는 지나치게 순종적이어서 평범한 사용자들에게 무례함을 학습시킬 수 있다는 지적이 나왔다. ⓒ Public Domain

타인에 대한 공감능력이 부족하면 안하무인의 무례한 행동을 하기 마련이고, 그런 행동은 조직에 막대한 손실을 끼친다. 지난 20여 년간 직장 내 개인의 언행 및 무례함을 연구해온 미국 조지타운대학 경영전문대학원의 크리스틴 포래스 교수에 의하면, 무례함을 경험한 집단은 대조군 집단에 비해 33% 낮은 성과를 보이고 창의적 아이디어도 39% 더 적게 냈다.

만약 그 조직이 병원이라면 심각한 의료사고로 이어질 수 있다. 포래스 교수가 의사 및 간호사를 비롯해 병원 직원 4500명을 설문조사한 결과, 71%가 다른 사람을 무시하는 태도 및 행동이 의료사고와 관련이 있으며, 27%는 그런 행동이 환자의 죽음과도 관련이 있다고 답한 것이다.

갑질을 시작하게 되면 마치 자신이 명령할 수 있는 위치에 있다는 사실을 증명이라도 하듯 본인이 쉽게 할 수 있는 일을 다른 이에게 시킨다. 그러다 명령과 무례함 자체를 즐기게 되고, 급기야는 돈과 권력만 있으면 사람도 길들일 수 있다는 착각에 빠지고 만다.

개인용 전자기기의 세 번째 혁명

그런데 평범한 사람들에게 갑질을 부추기고 학습시키는 기계가 있다. 아마존의 알렉사나 마이크로소프트의 코타나, 애플의 시리 등등 음성인식 기능을 장착한 인공지능(AI) 가상 비서가 바로 그 주인공들이다.

현재 미국인 6명 중 1명은 음성인식 AI 비서를 사용하고 있는데, 이 기기들의 영업 파급 효과는 엄청나다. 알렉사 덕분에 지난해 음악 재생 횟수는 평소보다 3배 늘었으며, 스트리밍 서비스인 아마존 파이어 TV 이용은 9배나 증가했다.

개인용 전자기기 중 첫 번째 혁명이 컴퓨터, 두 번째 혁명이 스마트폰이었다면 세 번째 혁명은 바로 음성인식 AI 비서라는 말이 나돌 정도다.

하지만 이들 디지털 비서에는 한 가지 치명적인 결함이 있다. 미국의 IT 전문매체 ‘슬레이트’에 게재된 최신 기사에 의하면, 그 결함은 바로 주인(사용자)에 대해 지나치게 순종적이라는 점이다. 즉, 사용자가 지나칠 정도로 순종하는 디지털 비서와 상호작용하면서 마치 자신이 상전이라도 된 듯한 착각에 빠져들 수 있다는 분석이다.

세계 최대 동영상 사이트인 ‘유튜브’에 음성인식 AI 비서에게 심한 욕설을 퍼붓는 한 남자의 영상이 올라온 적이 있다. 그 남자가 그처럼 화를 낸 이유는 평소 순종적이었던 그 여성 로봇이 자신의 데이트 신청을 거절했기 때문인 것으로 알려졌다.

딥러닝을 채택한 AI 비서는 천천히 배워가면서 사용할수록 똑똑해진다. 따라서 처음엔 사용자의 말을 이해하지 못해 자칫 엉뚱한 답을 제시할 수 있다. 이때 답답한 나머지 짜증을 내거나 험한 말을 하는 사용자들을 흔히 볼 수 있다.

또한 디지털 비서를 자주 이용하다 보면 명령 위주의 단순하고 직설적인 언어의 사용 습관이 밸 수 있다. 물론 타인에게 그런 투의 말을 사용할 리는 없겠지만, 언젠가는 자신도 모르게 그런 무례함을 타인에게도 나타내는 무뢰한이 될 수 있다.

인간답게 행동할 수 있도록 배려하는 기술 필요해

우리가 ‘을’의 위치에 있는 식당 종업원이나 다른 서비스 종사자들을 함부로 대하는 모습으로 그 사람의 인격을 판단하는 것처럼 디지털 비서에게 함부로 대하는 경우도 그 사람의 인격을 의심해볼 일이다. 이 같은 예의는 인공지능이나 기계를 위해서가 아니라 바로 우리 자신을 위한 일이기도 하다.

디지털 비서의 이 같은 결점을 해결하기 위한 기술적 아이디어가 최근 출시된 아마존의 어린이용 알렉사에 적용됐다. 이 어린이용 알렉사에는 질문을 할 때 ‘플리즈(please)’를 사용해 긍정적인 언어 습관을 들이도록 하는 ‘매직 워드’ 기능이 포함되어 있다.

또 다른 아이디어는 지난 2월 개최된 미국 최대 스포츠 축제인 슈퍼볼 광고시장에서 소비자들에게 인기를 독차지한 아마존의 광고 속에 숨어 있다. 아마존은 이 광고에서 AI 음성비서 알렉사가 갑자기 목소리를 잃은 상황을 설정한 다음 그 해결책으로 각계각층의 셀럽들이 알렉사의 목소리를 대신하는 내용을 선보인 것.

예를 들면 독설가 셰프로 유명한 고든램지는 음식 레시피를 알려주면서 사용자에게 그의 트레이드마크인 욕설을 퍼붓는가 하면 힙합으로 빌보드 정상을 차지한 뮤지션 카디 비는 컨트리 음악을 틀어달라는 사용자에게 자신의 노래인 힙합만을 들려주는 식이다.

항상 고분고분 말을 잘 듣는 순종적인 디지털 비서에서 개성 넘치는 유명인들로 변신한 알렉사의 이 같은 인간다운 응답은 자신도 모르게 갑질에 익숙해지려는 AI 음성비서 사용자들에게 훌륭한 견제 장치가 될 듯싶다. 인간이 인간답게 행동할 수 있도록 배려하는 세심한 기술이 이제는 필요한 상황이다.

의견달기(0)