과학문화
빅 데이터와 인공지능에 대한 사람들의 ‘맹신’은 거의 종교수준이다. 오죽하면 유발 하라리는 ‘호모 사피엔스’라는 책에서 사람들이 ‘데이터 교’를 믿고 있다고 비꼬았을까.
데이터를 신앙처럼 믿는 것은 아니지만, 이미 우리 사회 곳곳에는 빅 데이터와 이를 처리하는 인공지능을 활용한 다양한 ‘알고리즘’은 보이지 않는 힘을 이용해서 막강한 영향력을 행사한다.
한 젊은이가 이유도 모르고 입사 시험에서 계속 떨어졌다. 알고보니 적성검사 시험에서 낮은 평가를 받았는데, 이 결과가 여러 회사에서 사용하는 자동면접프로그램으로 채택되는 바람에 아무도 모르게 탈락하는 불이익을 받고 있었다.
그런데 그 적성검사가 과연 사람의 적성과 인격과 능력과 성격을 올바르게 판단할 수 있을까? 절대 아니다.
재판에서의 법률적 판단을 지원하는 서비스 프로그램 역시 매우 불의한 판단을 제공하면서도 이를 합리화하는 모순을 안고 있다.
이런 모든 잘 못 된 판단을 제공하는 ‘인공지능’과 ‘빅 데이터’의 핵심에는 무엇이 숨어있을까? 바로 수학이다. 수학적 지식을 바탕으로 하는 모델링에 따라 만들어진 알고리즘이 숨어있다.
알고리즘의 피해를 고발하고 나선 수학박사
수학자로서 교수로 일하다가 실제 자기가 가진 지식을 활용하고 적용하고 싶어서 금융기관과 IT기업에 들어갔다가 수학으로 얼마나 많은 사람들을 파멸로 이끄는지 깨달은 한 여자 수학자가 사람들을 파멸로 이끄는데 수학이 오용되는 것을 참을 수 없어서 경고를 날리기 시작했다.
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 값 16,000원
그리고 쓴 책이 ‘대량살상 수학무기’ (Weapons of Math Destruction WMD)이다. 보통 대량살상무기를 Weapons of Mass Destruction(WMD)라고 하는데 여기에서 Mass를 수학을 뜻하는 Math로 바꿔서 제목으로 사용하고 있다.
그리고 제목 그대로 어떻게 요즘 시대에 수학이 익명의 사람들을 대량으로 파괴시키는 그 끔찍한 실상을 아주 다양한 사례를 들어 설명해준다.
아마도 이 책이 많은 독자들의 공감을 쉽게 얻어내는 것은 모든 사람들이 당할 수 있는 거의 모든 사회제도에 수학을 기반으로 하는 대량 학살 시스템이 이미 침투했기 때문이다.
수학으로 대량학살하는 대표적인 곳은 아마도 금융기관일 것이다. 입사시험에는 적성검사 결과가 젊은이들을 대량 학살하고, 범죄를 낮추기 위한 불심검문은 백인이 아닌 미국 시민들에게 불쾌감을 줄 뿐 아니라, 범죄를 더욱 부추기는 역작용을 낸다.
학생과 학부모로부터 매우 좋은 평판을 받던 교사도 역시 이유를 알지못하는 기계적인 칼에 의해서 나쁜 교사로 찍혀 해고된다.
저자인 캐시 오닐(Cathy O’Neil)은 UC버클리를 졸업하고 하바드 대학에서 대수학 정수론으로 박사학위를 땄다. 버나드 칼리지 수학과 종신교수로 재직하다가 수학을 현실사회에 활용하자는 생각에 헤지펀드 디이쇼(D.E.Shaw)의 퀀트(quant)로 활동한다.
이때 2000년대 글로벌 금융계의 호황과 붕괴를 겪으면서 수학과 금융의 결탁이 불러온 파괴적 힘에 실망해서 사임하고, IT업계에서 데이터과학자로서 금융상품의 위험도 소비자 구매패턴 등을 예측하는 수학모형개발했다.
그러면서 빅데이터 경제가 불평등을 확산하고 민주주의를 위협한다는 사실을 깨닫는다.
사람들을 가난하게 만드는 약탈적 마케팅
캐시 오닐은 데이터를 바탕으로 수학적 원리르 이용해서 만든 ‘알고리즘’이 얼마나 잘 못 됐는지 수없는 경고를 날리고 있다. 사람들은 알고리즘이 과학적이고 믿을만하며 전문적이라고 잘 못 된 신뢰를 가지고 있다고 말한다.
저자가 보기에 알고리즘은 어떤 의견을 가진 사람들이 자기 의견을 더욱 확고한 기준으로 만들기위해 포장한 마케팅 전략일뿐이다.
그런데 알고리즘은 만들 때 부터 편견이 들어 가 있고, 한 번 만들어지면 확대재생산한다. 더욱 파괴적인 것은 마케팅을 위해서 사용될 때, 다시 말해 무슨 수단을 다해서라도 소비자들을 현혹해서 돈을 이끌어내려고 할땐 무자비한 약탈자로 변한다는 점이다.
알고리즘은 게다가 미래를 예측할 능력이 없다. 과거의 데이터를 가지고 해석하고 판단하기 때문에 사람을 과거에 묶이게 한다.
사람들의 삶을 더욱 황폐하게 만들고, 사람을 위너와 루저로 구분하는데 루저는 입사시험에서 면접을 볼 기회조차 박탈당한다.
이쯤해서 이런 질문이 떠오른다. 과연 우리나라 기업들은 입사면접시험에서, 금융기관은 대출심사에서, 기업은 마케팅에서, 기타 공공기관들은 민원을 판단할 때 있어서 빅데이터를 자의적으로 해석한 잘못된 알고리즘에 의해서 사람들을 곤경에 빠뜨리고 있지는 않을까?
우리나라에서도 빅데이터와 알고리즘의 폐해를 정확히 꿰뚫어보는 전문가의 내부 고발이 필요하다.
법률적으로는 알고리즘을 공개하도록 의무화하는 법안이 필요할 것이다.
(13171)
- 심재율 객원기자
- kosinova@hanmail.net
- 저작권자 2017.11.23 ⓒ ScienceTimes
관련기사
목록 보기전체 댓글 (0)
로그인후 이용 가능합니다.
-
올해 공공 소프트웨어·ICT 장비 사업에 6조2천억
/ 과학기술정보통신부는 23일 올해 공공 분야의 소프트웨어·정보통신기술(ICT) 장비·정보보호 사업 규모가 작년보다 2.7% 증가한 6조2천239억원으로 집계됐다고 밝혔다. 소프트웨어 구축 사업 예산이 4조5천406억원으로 가장 많았고 상용 소프트웨어 구매에 3천605억원이 소요되는 것으로 조사됐다. 컴퓨팅, 네트워크, 방송 장비 등 ICT 장비 구매 비용은 1조 3천227억원으로 나타났다. (21)
-
기후위기 극복 기술협력 위해 36개국 한국에 모였다
/ 36개국이 한국에 모여 기후변화 대응을 위한 기술 협력방안 도출에 머리를 맞댄다. 과학기술정보통신부는 유엔기후변화협약 기술메커니즘 이사회가 24일 개막했다고 밝혔다. 이사회는 오는 29일까지 인천 송도에서 계속된다. 유엔기후변화협약은 온실가스 감축을 위해 1992년 설립된 협약이다. 총 198개국이 참여하는 규범으로, 매년 당사국총회를 열어 주요 사항을 결정한다. 기후메커니즘은 2010년 당사국총회에서 기후변화대응을 위한 과학기술 중요성에
-
UNIST “실명 유발하는 망막혈관폐쇄질환 치료 실마리 발견”
/ 울산과학기술원(UNIST)은 혈관이 막혀 실명으로 이어질 수 있는 응급 질환인 망막혈관폐쇄질환을 치료할 수 있는 실마리를 발견했다고 23일 밝혔다. UNIST에 따르면 화학과 조재흥 교수팀은 서울아산병원 안과 이준엽 교수팀, 한국과학기술원(KAIST) 백무현 교수팀과 망막혈관폐쇄질환의 새로운 치료법을 찾기 위한 공동연구를 진행했다. 공동연구진은 폐쇄된 혈관을 확장해 효과적으로 흐름을 복구하는 ‘철-일산화질소 복합체’ 개발에 성공했다 일산화질소는
-
‘천안아산 R&D 집적지구 1호 사업’ 충남지식산업센터 준공
/ 충남 천안아산 KTX역세권 연구개발(R&D) 집적지구 1호 사업인 충남지식산업센터가 23일 준공됐다. 센터는 천안시 서북구 불당동 4천510㎡ 부지에 지하 1층·지상 6층 규모(연면적 1만2천471㎡)로 건립됐다. 입주대상은 지식산업, 정보통신, 제조업과 관련 지원시설 등이다. 반도체 장비 제조, 엔지니어링, 소프트웨어 개발, 산업용 필터 등 12개 기업이 이달 중 입주할 예정이다. 충남도는 지식산업센터를 통해 일자리
-
KAIST 부설 AI 바이오 영재고 청주 오송에 설립
/ 한국과학기술원(KAIST) 부설 인공지능(AI) 바이오 영재고가 청주시 흥덕구 오송읍에 들어선다. 개교 목표 시기는 2027년 3월이다. 충북도는 23일 한국과학기술원이 희망하는 학교 부지요건 등에 대한 의견을 듣고 도교육청과 함께 숙고한 끝에 오송읍을 건립 부지로 결정했다고 밝혔다. 부지 선정의 결정적 요건은 향후 설립될 한국과학기술원 오송캠퍼스와의 접근성, 핵심인력 양성의 용이성 등이었다. 오송에는 첨단의료제품
-
교사 디지털역량 강화 이끌 ‘전문가교원’ 700명 키운다
/ 교육부는 교원의 인공지능(AI)·디지털 역량을 강화하기 위한 ‘2023년 아이에답(AIEDAP) 사업 착수보고회’를 23일 서울 중구 한국프레스센터에서 연다고 밝혔다. 아이에답은 민·관·학 디지털 전문가가 현직 교원과 예비 교원의 디지털 역량 강화를 지원하는 사업으로 지난해 시작됐다. 올해는 지역 여건에 맞는 사업을 추진할 수 있도록 권역별 사업지원단을 꾸리고, 교육 현장에서 디지털 기술을 바탕으로 수업을
-
양구군, 치매·홀몸 어르신에게 인공지능 말벗 인형 지원
/ 강원 양구군은 치매 환자, 독거노인 등 돌봄이 필요한 고령자를 대상으로 인공지능(AI) 말벗 인형 ‘천사친구 효돌·효순이’ 서비스를 제공한다고 23일 밝혔다. 군은 치매안심센터에 등록한 맞춤형 사례관리 대상자 중 우울 척도가 높은 10명에게 오는 12월까지 말벗 인형을 지원한다. 이는 정서·인지 정도가 다소 낮은 어르신을 돕는 인형 모양의 로봇이다. 일상 중 말벗이