닫기
오해와 편견의 컴퓨터 역사를 뒤집다

[2019 우수과학도서] 2019 우수과학도서 - 페미니즘 인공지능

페미니즘 인공지능 ⓒ 이음

어려서 로봇 장난감을 좋아하던 소녀는 컴퓨터과학을 공부해, 인공지능 전문가이자 데이터 저널리스트인 여성이 되었다. 테크놀로지의 장밋빛 전망을 누구보다도 굳게 믿었던 그녀, 메러디스 브루서드는 어느날 회의감에 휩싸인다.

“정말? 자율주행 자동차 센서는 개발된 지 10 년이 지나도록 밝은 빛과 밝은 색을 구분하지 못하고, 알파고는 수많은 사람들의 지능과 시간을 동원해 만든 뛰어난 체스 기계에 불과한데, 고작 그런 테크놀로지에 우리의 미래를 맡겨야 한다고?”

공상과학 영화가 우리에게 심어준 환상을 걷어내면, 의심할 근거는 차고도 넘친다. 예를 들면 미국 내 여러 주의 사법부가 도입한 ‘인공지능 판사’ 소프트웨어인 COMPAS, PSA, LSA-R 등은 객관적이기는커녕 개발자 집단의 편견을 고스란히 재생산하고 있다는 비판을 받고 있다.

이들 소프트웨어는 범죄 피의자의 범죄 경력과 성격 패턴, 사회적 요인 등을 고려해 재범 위험성을 예측하는 알고리즘인데, 유색 인종과 가난한 사람들의 재범 위험성을 높게 예측해 공정성 논란에 휩싸여 있다.

2016년 오하이오 주에서는 자율주행 자동차 사고로 인한 첫 사망자가 발생했다. 운전자는 테슬라 자동차의 자율주행 기능인 ‘오토파일럿’을 켠 채 도로를 달리고 있었는데, 차가 밝은 햇빛 아래 흰색 트레일러를 감지해내지 못하고 그 밑으로 들어가는 바람에 참변을 당했다.

저자는 10여 년 전 미국방위고등연구계획국(DARPA)이 주최한 자율주행 자동차 대회에 참가하기 위해 공대생들이 만든 자율주행 자동차를 탔다가 죽을 뻔한 기억을 떠올린다. 그 이후 DARPA는 기술 개발에서 손을 뗐고, 전문가들도 “자율주행 자동차는 예기치 않은 상황에 대응할 수 없다”는 경고를 보내고 있으며, 교통 당국이 새로운 개념을 정의하지 못해 우왕좌왕하고 있는데도 미국 내에는 자율주행 기능이 있는 자동차가 시판되고 있다.

분명 문제가 있는데도, 테크놀로지 업계와 관련 학계에서 반성의 목소리는 왜 나오지 않는 걸까? 테크놀로지의 방향과 성격을 좌지우지해온 누군가가 책임져야 하는 것 아닐까? 정말 이런 테크놀로지를 다음 세대에 물려줘도 괜찮은 걸까?

저자는 이런 질문으로 컴퓨터-테크놀로지의 역사를 뒤집어 보고, 현재의 테크놀로지가 어떻게 성·인종 차별을 확대·재생산하고 있는지 확인하며, 특히 이 역사의 최첨단인 인공지능이 작동하는 현장을 발로 뛰어본다.

공립 중·고등학교의 문제를 해결할 전자 시스템을 고안하고, ‘무박’ 5일 동안 버스를 타고 미국을 횡단하는 해커톤에 참여하는가 하면, 2016년 미국 대선 운동 캠프의 재정 데이터를 처리하는 알고리즘을 실험해본다.

이 모든 게 혹시, 인공지능의 아버지들 때문은 아닐까?

저자는 먼저 테크놀로지 산업과 학문, 법과 제도, 문화와 대중적 인식을 만들어온 책임자들을 찾아 나선다. 그리고 놀랍게도, 이 다양한 분야가 매우 소수의, 백인 남성 엘리트 집단에 의해 장악되어 있었음을 발견한다.

이들 집단의 특징은 ▲기술지상주의 ▲자유지상주의 ▲천재 숭배 ▲반문화 ▲성·인종 차별주의 등으로 요약할 수 있다. 그들만의 네트워크를 통해 강화된 편견과 편향이 현재의 테크놀로지 시스템에 고스란히 반영되었고 이 시스템이 사회 전반에 영향을 미치고 있는데, 이를 견제·제어하는 장치는 제대로 작동하고 있지 않다는 것이 근본적 문제라고 지적했다.

저자는 ‘인공지능의 아버지’로 불리는 수학자 마빈 민스키 사단으로부터 1차적인 이유를 찾는다. MIT 인공지능 연구소의 공동 설립자인 그는 각계각층을 넘나들며 사람과 자원을 연결하는 ‘커넥터’로 활동해 인공지능을 비롯한 첨단 테크놀로지 문화의 초석을 쌓은 인물이다.

공상과학 소설가인 아이작 아시모프와 친하게 지내며 꿈속에서나 가능한 발상을 현실에 구현하는 데 애썼다. 국립 연구소 예산과 테크놀로지 기업의 기부금 등 막대한 자금이 그들의 ‘공상’을 뒷받침하는 데 쓰였다. 그렇지 않았더라면 현실 사회의 문제를 해결하는 데 쓰일 수도 있는 돈이었다. 민스키의 또 다른 ‘절친’은 인터넷 문화의 배후로 평가받는 스튜어트 브랜드다.

그는 사이버 공간을, 현실 사회를 부정하고 기존 정치 체제로부터 도피한 극단적 자유주의자들의 유토피아로 구상했다. 인터넷 게시판 문화에 대한 브랜드의 생각, “우리는 신처럼 되었고, 신 노릇을 잘 하는 법을 배워야 한다”는 선언에서는 그와 그를 추종하는 사람들의 천진난만한 반문화적 성향을 볼 수 있다.

저자는 이들의 오만과 편협함이 단순히 개인의 특성이 아님을 밝힌다. 기원은 잘못된 젠더 의식을 갖고 있었고 사회성이 없었던 ‘천재’ 수학자 앨런 튜링의 세대로 거슬러 올라간다. 19세기 수학자들은 폭발적으로 늘어난 ‘계산’ 업무를 맡길 노동력을 확보하기 위해 백인 남성 엘리트가 아닌 다양한 사람들에게 교육 기회를 확대하는 대신, 기계를 더 많이 만드는 방향을 택했다.

이런 방향성은 최근 ‘혁신’을 선도하는 테크놀로지 기업들로 이어지고 있다.

페이팔 설립자이자 ‘페이팔 마피아’라는 별명으로 유명 한 피터 틸은 “1920년 이래로 복지 수혜자 수가 폭발적으로 증가하고 여성 참정권이 확대되면서 ‘자본주의적 민주주의’는 모순된 개념이 됐다”며 양성평등과 정부에 대한 적대감을 드러낸 바 있다.

우버는 지역별 택시 관련 규정과 사법 당국의 단속을 거의 무시하면서 사업을 확장해왔고 최근에는 심각한 성차별적 조직 문화가 드러나 지탄받았다.

저자의 지적처럼 “컴퓨터 시스템은 그것을 만드는 사람들을 대변”한다. 과연 사회에 관심이 없는 사람들이 만든 테크놀로지로 더 나은 사회를 만들 수 있을까?

저자는 최초의 컴퓨터 ‘에니악’의 사진에서 단서를 얻는다. 에니악이 만들어진 1940~50년대에는 컴퓨터를 작동시키는 업무를 수행하는 ‘인간 컴퓨터’ 대부분이 여성이었다. 하지만 대체로 남성이었던 개발자들에 의해 여성은 컴퓨터 역사에서 배제되어왔다. ⓒ게티이미지

페미니스트가 다시 인공지능과 테크놀로지를 설계한다면?

만약 다른 사람들이, 좀 더 다양한 사람들이 공론장에서 함께 성찰하며 다시 컴퓨터의 역사를 지어보면 어떨까?

“기계가 움직이는 세상을 만드는 게 목적이 아니다. 설계의 중심에 인간이 있어야 한다”는 원칙하에 인간의 역할과 통제권을 명확히 하고, 이를 포함해 구성하는 인공지능 시스템인 ‘휴먼 인 더 루프’, 트롤리 딜레마 등 인공지능의 윤리적 문제에 대한 해법을 포괄하는 시스템 ‘소사이어티 인 더 루프’에 대한 연구가 최근 진행되고 있다.

저자는 이런 프로젝트들을 소개하고 제안하는 것에서 더 나아가, 직접 실험해본다.

이 책의 11장에 서술된 ‘베일리윅’ 사이트가 한 예다. 2016년 미국 대선 당시 주요 후보의 선거운동 캠프의 재정 데이터를 처리하는 알고리즘으로, 인공지능의 한 분야인 ‘전문가 시스템’을 응용한 것이다.

저널리스트들은 이 사이트를 통해, 자판기에서 음료수를 뽑듯, 데이터에서 기삿거리를 찾아낼 수 있었다. 그 결과, 정치 자금 집행과 관련된 합당 한 의심들이 제기됐고, 다양한 보도로 이어졌다.

저자는 선거운동과 관련된 사람들과 업계의 관행, 관료주의와 보도 기준 등을 조사했으며, 저널리스트들이 자신의 관점으로 데이터를 분석하도록 돕는데 초점을 맞췄다. 사람의 가치 판단과 현실 사회의 구성 방식, 공공적 방향 등이 알고리즘 작동의 단계마다 개입하도록 설계한 것이다.

어떻게 하면 ‘포용하는’ 테크놀로지를 좀 더 폭넓게 구현할 수 있을까?

저자는 최초의 컴퓨터 ‘에니악’의 사진에서 단서를 얻는다. 에니악이 만들어진 1940~50년대에는 컴퓨터를 작동시키는 업무를 수행하는 ‘인간 컴퓨터’ 대부분이 여성이었다. 하지만 대체로 남성이었던 개발자들에 의해 여성은 컴퓨터 역사에서 배제되어왔다. 의도적인 상황이었으므로, 의지를 갖고 되돌려놓을 수 있다.

이는 단순히 테크놀로지 관련 분야의 성비불균형을 해소하자는 이야기가 아니다. 배제되었던 다양한 구성원들의 목소리를 담고, 처리하기에 ‘불편하다’는 이유로 무시되어왔던 수많은 인간적 요소를 중심에 놓고, 다시 사람과 삶을 돕는 도구로서 테크놀로지를 어떻게 쓸 것인지를 다시 사회적·윤리적으로 협의해나가야 한다는 뜻이다.

이 책은 소수의 ‘공상’으로 부풀려진 인공지능의 헛된 신화에서 벗어나, 모두의 꿈으로 설계해야 할 사회를 전망하게 한다. 미래는 저절로 오는 것이 아니라, 함께 직접 만들어가는 것임을 독려하는, 행동하는 테크놀로지 가이드다.

(407)

뉴스레터 구독신청
태그(Tag)

전체 댓글 (2)

  • 구금산 2020년 3월 23일8:31 오후

    페미는 과학이다. 이딴 정신나간 근거도 없고 망상만 펼치는 이들을 왜 연구하지 않는걸까? 인생이 그렇게 편한가? 남자탓 여자는 다르다. 이게 21세기에 할 소리인가? 글쓴이는 글쓰기 전에 생각은 했는지 반성부탁드립니다.

  • PLUTO134340 2020년 3월 23일10:38 오후

    꼭 읽어보고 싶네요! 기사 제대로 보지도 않고 페미니스트라는 말만 본 채 부들거리는 사람들 신경쓰지 마시고 앞으로도 이런 좋은 기사 많이 내주세요!

과학백과사전