2016
12월호

온라인 시장에서 차별 바로잡기
레이 피스먼(Ray Fisman),마이클 루카(Michael Luca)

112_12_main_800

 

온라인 시장에서 차별 바로잡기

 

에어비앤비, 우버, 그리고 기타 온라인 기업들이 자신들의 플랫폼 디자인 때문에 의도치 않은 결과에 직면했다.

 

레이 피스먼 그리고 마이클 루카

 

 

Idea in Brief

문제점

이베이나 우버, 에어비앤비 같은 온라인 플랫폼들은 오프라인 거래에서 발생하는 인종이나 성별, 그리고 기타 요인에 의한 차별을 잠재적으로 줄일 수 있다. 하지만 최근 연구에 의하면 그 반대 현상도 일어나고 있다.

 

이유

초기 플랫폼들은 판매자나 구매자의 신상을 비교적 익명으로 처리했다. 하지만 거래자들의 사진과 이름, 기타 식별 정보가 추가되면서 의도치 않은 차별적 행동들이 촉발됐다.

 

해결책

효율적이고 포용적인 시장을 창조하기 위해, 플랫폼 디자이너들은 잠재적 차별 요인들을 인식하고, 자동화와 알고리즘, 그리고 신상 정보들을 어떻게 활용하고 선택할 수 있는지 적극적으로 실험해야 한다.

 

1980년대 후반에 법학과 교수인 이언 에이레스Ian Ayres와 피터 시겔먼Peter Siegelman은 신차를 구입할 때 흑인이나 여성들도 백인 남성과 동일한 조건으로 거래하는지 확인하는 연구에 착수했다. 그들은 백인과 흑인, 그리고 여성과 남성이 골고루 섞인 38명의 조사원들을 정해진 각본에 따라 신차 구매를 흥정하도록 훈련시켰다. 그러자 충격적인 결과가 나타났다. 153개 자동차 판매대리점에서의 거래를 종합한 결과, 동일한 자동차 모델을 구입하는 데 흑인과 여성들이 백인 남성보다 더 많은 비용을 지불했던 것이다. 흑인 여성은 백인 남성보다 평균 900달러 가까이 더 많은 돈을 지불해, 가장 높은 비용을 들여 차를 구입한 집단이 됐다. 대부분의 사람들이 이 보고에 크게 놀라지 않았고 특히 흑인과 여성들에게는 그리 당황할 만한 결과도 아니었지만, 연구 결과는 시장이 얼마나 차별적인지 보여주는 강력한 증거가 됐다.

 

인터넷 상거래가 막 시작됐던 초창기로 시간을 12년 정도 빠르게 되돌려 보자. 사업가들은 거의 모든 제품을 대상으로 웹 기반 판매를 시도했고, 자동차도 예외는 아니었다. 경제학자인 피오나 스콧 모턴Fiona Scott Morton, 플로리안 제텔마이어Florian Zettelmeyer, 그리고 호르헤 시우바-리소Jorge Silva-Risso는 이 새로운 자동차 판매방식에 대해 분석했고, 그 결과 오프라인 자동차 영업에서 지속적으로 발견되는 인종차별과 성차별이 온라인 판매에서는 발생하지 않는다는 사실을 발견했다.

 

실제로 온라인 상거래의 1세대 주자인 이베이나 아마존, 프라이스라인 등은 판매자가 차별을 행사하기 어려운 구조를 갖고 있었다. 비교적 익명성을 바탕으로 상거래가 이뤄졌기 때문이다. 판매자가 거래를 승인하기 전까지 구매자는 개인정보를 제공하지 않은 채 협상할 수 있었다. 이와 관련된뉴요커New Yorker’의 유명 만평도 있었다. “인터넷에서는 아무도 네가 개라는 걸 모른다니까.”

 

이제 모든 상거래 사이트에서, 그리고 그 사용자까지도 당신이 흑인인지 백인인지, 또 남성인지 여성인지, 혹은 사람인지 개인지 알 수 있다. 그리고 최근 인터넷은 차별의 종결자가 아닌 온상으로 부각되고 있다. 온라인에서 개인 신상이 드러남에 따라, 사회적 취약계층은 오프라인 세상에서 오랫동안 직면해 온 도전들을 똑같이 겪게 된 것이다. 게다가 관련 규제의 부족과 인종과 성별을 분명히 말해주는 사진들, 그리고 잠재적 차별주의자들이 희생자들과 직접 대면하지 않고도 피해를 줄 수 있는 온라인 세상의 조건들은 상황을 더욱 악화시키기도 한다.

 

과연 디지털 세상에서는 어떤 일들이 벌어졌으며, 우리는 이에 어떻게 대응할 수 있을까?

 

디지털 차별의 등장

 

전자상거래 초기 온라인 쇼핑에는 신뢰 문제가 쉽게 간과됐다. 예를 들어, 플로리다에 거주하는 한 판매자가놀런 라이언Nolan Ryan선수가 캘리포니아 에인절스California Angels에서 활약하던 1974년 시즌의 톱스Topps야구카드 판매합니다란 게시물을 카드 상태를 묘사하는 설명과 함께 이베이에 올린다고 치자. 매사추세츠에 사는 수집가 한 명이 카드를 직접 확인하지 않은 채 판매자의 설명만 믿고 경매를 신청한다. 카드 상태가 양호하다면 60달러의 가격으로도 경매가 될 수 있겠지만 모서리가 헤진 상태라면 가치가 꽤 줄어들 것이다. 판매자가 낡아빠진 카드를 완전히 새것처럼 둘러댄다면 이를 어떻게 막을 수 있을까? 사실상 해결 방법은 거의 없다. 경제학자인 진저 진Ginger Jin과 앤드루 카토Andrew Kato의 연구에 따르면 2000년대 초반 이베이에서 활동한 판매자들이 스포츠 트레이딩 카드의 상태를 거짓으로 좋게 부풀린 경우가 많았다고 한다.

 

초기 전자상거래가 가진 문제는 야구카드의 상태처럼, 시장의 한쪽 주체는 알 수 있는 상품의 신뢰성이나 포장 방식 등의 정보를 다른 쪽 주체는 알 수 없었다는 점이었다. 이런 문제가 모든 유형의 시장에서 발생하지만, 온라인 플랫폼에서 특히 심했던 데에는 2가지 주요 원인이 있었다. 첫째, 당신의 손 위에 상품이 없을 때는 정보의 비대칭을 극복하기 어렵다는 점이다. 둘째, 전자상거래가 시작된 지 고작 2년쯤 됐던 당시 온라인 판매자들에게는 이 산업이 본질적으로 생소했기 때문이다. 그때에는 소더비Sotheby’s나 시어스Sears처럼, 구매자가 사기를 당할 가능성이 전혀 없다는 확신을 줄 만큼 확고한 명성의 브랜드가 없었다.

 

시간이 지나면서 구매자 리뷰나 기타 피드백들을 통해 전자상거래 판매자들도 명성을 쌓게 됐다. 하지만 판매자와 구매자의 신상정보에도 잠재적으로 활용 가능한 유용한 정보들이 꽤 많은데 왜 구태여 피드백을 수집하느라 고생하겠는가? 일례로 2012년에 제퍼슨 두아르테Jefferson Duarte와 스테판 시겔Stephan Siegel, 랜스 영Lance Young P2P 금융에 대해 연구한 결과를 보면, 대출 주체들은 주로 대출 신청자들의 사진을 보고 그들의 신뢰도를 가늠했다. , ‘신뢰 가는 외모를 가진 사람들이 대출에 성공할 가능성이 더 높은 것으로 밝혀졌다. 더욱 놀라운 것은 이런 사람들의 대출 상환율이 실제로 더 높았다는 사실이다. 시사점은 이렇다. 만약 이런 형태의 정제된 개인정보가 시장 참여자들이 잠재 거래자의 신뢰도를 측정하는 데 도움을 준다면, 이런 정보를 제공하는 것이 타당하다.

 

프리랜서 작업부터 카셰어링, 애완견 산책 서비스까지 다양한 온라인 사이트에서, 이제 많은 판매자들은 자신이 누구와 거래를 하는지, 상대방의 외모는 물론 이름까지 파악할 수 있는 권한을 갖게 됐다. 이런 정보들을 판매자들에게 제공하는 것은 플랫폼 재량으로, 어떤 사이트들은 여전히 상당한 수준의 익명성을 유지하는 반면 또 다른 사이트들은 오프라인 시장에서 오랫동안 금지됐던 관습을 되살리고 있다. 엣시Etsy와 커스텀메이드CustomMade같은 사이트에서는 판매자와 마찬가지로 잠재 구매자들도 판매 상품뿐 아니라 판매자의 이름이나 사진을 볼 수 있다. 잠재적인 거래 파트너에 대한 세부 정보를 아는 것이 사람들에게 심리적 안정을 줄 수 있지만, 이런 방식이 차별을 조장한다는 사실을 보여주는 증거들도 점점 많아지고 있다.

 

 

단기숙소임대차 사이트인 에어비앤비Airbnb는 온라인 시장에서도 차별이 발생하고 있으며, 어떤 플랫폼 디자인을 채택하느냐에 따라 차별의 발생 정도가 달라질 수 있음을 보여주는 사례가 된다. 에어비앤비는 잠재적으로 숙소를 임차하고자 하는 게스트가 후보 리스트를 검색하면, 해당 숙소와 주인의 사진이 관련 설명과 함께 뜬다. 숙소 주인인 호스트 또한 예약을 승인하거나 거절하기 전에 잠재 게스트의 이름은 물론 대부분은 게스트의 사진도 볼 수 있다.

 

필자 중 한 명(마이클 루카가 벤저민 에덜먼Benjamin Edelman과 대니얼 스버스키Daniel Svirsky와 함께)은 에어비앤비에 정말로 인종차별이 존재하는지를 조사했다. 미국 중심으로 실시한 조사에서, 연구자들은 사용자 프로필 20개를 만든 다음 약 6400명의 호스트에게 예약 신청을 보냈다. 게스트의 이름만 빼고 다른 신상정보와 신청내용은 모두 동일했다. 20개 프로필 중 반은 흔한 백인 이름으로(출생 기록을 근거로), 그리고 나머지 반은 흔한 흑인 이름으로 만들었다.

 

실험 결과, 백인으로 추정되는 이름으로 예약을 신청했을 때보다 흑인으로 추정되는 이름으로 예약했을 때 호스트의 숙박 승인율은 16% 더 낮았다. 그리고 이런 차별은 숙소의 조건과 상관없이 존재했다. 저렴한 숙소든 비싼 숙소든, 다양한 인종이 사는 지역이든 동일한 인종만 사는 지역이든, 호스트의 가정집에 포함된 숙소든 아니면 호스트가 몇 채의 집을 대여해 관리하는 개별 숙소든 마찬가지였다. 흑인으로 추정되는 프로필로 보낸 예약 신청을 거절한 호스트 중에는 흑인 게스트를 받은 경험이 전혀 없는 사람들이 대부분이었다. 이는 인종차별적 성향이 특히 강한 호스트들이 있다는 사실을 보여준다.(이 연구 결과와 더불어 사이트 사용자들과 규제기관의 비판이 점점 강해지면서, 에어비앤비는 차별을 줄이기 위한 대책위원회를 만들었고 2016 9월에 일련의 변화 지침들을 제안했다. 이들이 발표한 지침들은 아래에서 다시 다루겠다.)

 

연구자들은 노동시장과 신용기반 서비스, 그리고 주택시장에 이르기까지 다양한 온라인 사이트에서 벌어지는 인종차별 현상들에 대해 연구해 왔다. 온라인 인종차별은 2가지 기능에 의해 발생한다. 첫 번째는 인종적 표식으로, 가장 확신한 수단은 사진이지만 이름처럼 좀 더 미묘한 표식도 있다. 두 번째는 시장참여자 중 한쪽이 누구와 거래할 것인지를 정할 수 있는 재량권이다. 다음 장에서 자세히 다루겠지만, 두 가지 기능 모두 플랫폼을 디자인한 사람의 선택에 따라 결정된다.

 

온라인 상거래의 또 다른 특징은 차별을 억제하기보다, 오히려 때때로 반직관적으로 차별을 촉진하기도 한다는 점이다. 바로 알고리즘과 빅데이터의 활용 때문이다. 구글의 검색 결과나, 아마존 사이트가 추천하는 도서, 그리고 넷플릭스가 제안하는 영화 목록들은 고객이 무엇을 원하는지를 불완전한 인간의 판단 대신 기계의 판단으로 제시하는 예들이다. 인간의 판단을 없애면 인간의 편견도 없앨 수 있다고 추정하기 쉽다. 하지만 실제로는 그렇지 않다.

 

사실, 알고리즘은 인간이라면 피할 수 있을 법한 차별을 오히려 발생시킨다. 하버드대 컴퓨터공학과 교수인 라타냐 스위니Latanya Sweeney가 구글의 검색광고에 존재하는 인종적 영향력을 이해하기 위해 수행한 주목할 만한 연구 결구를 살펴보자. 그녀는 흑인들이 흔히 갖는 이름인 드숀Deshawn이나 라타냐Latanya같은 이름으로 구글 검색을 했고, 그 결과로 나오는 광고들을 기록했다. 그녀는 또한 백인들에게 흔한 이름인 제프리Geoffrey같은 이름으로도 검색했다. 그 결과, 흑인들에게 흔한 이름으로 검색했을 때에는 범죄기록을 조사해 주는 웹사이트 광고가 더 많이 떴다.

 

물론 구글이 의도적으로 아프리카계 미국인 이름을 검색하는 사람들에게 범죄기록과 관련된 광고를 보여준 것은 아니다. 이런 결과는 과거 다른 검색들을 기초로 알고리즘이판단한 결과다. , ‘드숀을 검색한 사람들은제프리를 검색한 사람들이 그냥 지나친 범죄 관련 광고를 더 많이 클릭했을 것이다.(그리고 이런 식으로 구글의 매출이 발생한다.) 의도한 것은 아니지만 부지불식간에 구글의 알고리즘 디자이너에 의해 이런 결정이 선택된 것이다.

 

인간의 판단을 없애면 인간의 편견도 없앨 수 있다는 추정은 꽤 그럴 듯해 보인다. 하지만 알고리즘은 인간이라면 피할 수 있을 법한 차별을 오히려 발생시킨다.”

 

112_12_img1_

 

시장을 디자인하는 더 현명한 방법들

 

같은 산업분야라 할지라도, 플랫폼이 어떤 디자인 특징을 갖느냐에 따라 차별에 대한 취약성의 정도는 달라질 수 있다. 사용자의 사진을 공개할 것인지, 또 언제 공개할 것인지에 대한 결정을 기준으로 생각해 보자. 우버Uber는 운전사에게 잠재 승객의 사진을 제공하지 않지만, 경쟁사에 해당하는 리프트Lyft는 공개한다. 유사한 방식으로, 휴가용 숙소예약 사이트인 홈어웨이HomeAway에서 검색 결과를 보여주는 메인 페이지는 숙소의 사진만 보여주고 호스트의 사진은 이후 단계에서 보여주지만(호스트가 사진을 공개할 경우에), 에어비앤비에서는 메인 검색결과 페이지에 숙소와 호스트 사진을 모두 보여줘야 한다.

 

기업들 또한 잠재적 차별 요인들을 조사하고 개선책을 도입하기 위해 다양한 조치를 취하고 있다. 예를 들어 이베이는 사회심리학자들과 팀을 꾸려 사이트에서 거래되는 유사한 제품들에 대해 남성 판매자가 여성 판매자보다 더 높은 가격을 받지 않는지 조사했다. 하지만 이 이슈를 피하려 드는 기업들이 더 일반적이다. 비록 많은 경영진이 차별이 일어난다는 사실을 인지하고 이를 줄이려는 관심을 표명하지만, 실상이 어느 정도인지 파악하기 위해 이베이처럼 진심 어린 노력을 기울이는 회사들은 거의 보지 못했다. 따라서 온라인 차별을 연구하는 사람들은 자체적으로 실험을 실시하거나 불완전한 데이터라도 웹사이트에서 가능한 한 많이 모아야 한다.(기업 소속 변호사들이 인종 관련 연구를 막기 위한 조치를 취한 경우들도 있었다.)

 

심지어 최선의 의도를 가진 기업일지라도, 차별과 싸우는 데 최선의 방법을 채택하지 않을 수 있다. 왜냐하면 플랫폼에 적용할 수 있는 디자인에는 어떤 것들이 있으며 그 결과가 어떨지 완전히 파악할 수 있는 시스템이 없기 때문이다. 필자는 아래의 글을 통해, 활발한 거래를 일으키면서도차별이라는 리스크를 최소화하는 플랫폼 디자인을 원하는 기업들에 기본 지침을 제공하려 한다.

 

모든 사이트 디자이너들이 같은 결정을 하리라 기대하지는 않는다. 경쟁사들도 처한 환경에 따라 각기 다른 디자인을 선택하는 것처럼(이를 테면 리프트는 승객이 앱을 통해 운전사에게 팁을 주는 방식을 채택했지만 우버는 그렇지 않다), 차별을 다루는 데 있어서도 회사마다 다른 선택을 내릴 것이다. , 회사마다 차별을 피함으로써 얻는 혜택을 다른 시각으로 볼 것이다.(물론 필자들은 이 문제에 대해 플랫폼 스스로 엄격한 잣대를 가져야 한다고 믿는다.) 필자들의 목적은 플랫폼 디자이너들이 자신들이 채택한 디자인에 따라 어떤 결과가 나타날 수 있는지와 그 장단점을 완전히 이해할 수 있도록 돕는 것이다.

 

 

지금부터 차별이라는 문제와 싸우는 플랫폼을 디자인하는 두 가지 기본 원칙을 설명할 것이다. 또 차별에 영향을 미치는 디자인적 선택사항 네 가지에 대해 평가할 것이다.

 

원칙1: 차별을 불러일으킬 수 있는 잠재적 요인들을 무시하지 말라.우선 플랫폼은 좀 더 신중한 추적(tracking)에 나서야 한다. 현재 대부분의 플랫폼들은 자신의 사이트에서 거래하는 참여자들의 인종이나 성별 구성이 어떤지 잘 모른다. 어떤 문제든 이를 파악하고 개선하기 위해 필요한 조치를 취하기 위해서는(완벽하지는 않더라도), 사용자들의 인종 및 성별과 더불어 집단별 거래 성공률이 어떤지 정기적으로 측정하고 그 결과를 보고해야 한다.(그리고 비정기적 감사도 필요하다.) 이렇게 하면 어떤 영역에서 차별이 발생하는지, 그리고 시간이 흐르면서 상황이 얼마나 개선되는지 파악할 수 있다. 이는 또한 차별을 줄이려는 선의를 실천하는 첫걸음이 된다. 예를 들어 에어비앤비는 게스트 수락비율을 인종과 성별 등의 속성별로 집계해 정기적으로 보고한다. 이런 정보를 공개하면 관련 사항에 대한 사용자와 규제기관의 인식을 높일 수 있고 플랫폼이 발전해 나가면서 직면하는 차별 문제에 대해 회사가 성실하게 대처하도록 지속적인 압력을 행사할 수 있다.(아직 갈 길이 멀지만, 차별 관련 데이터를 대중에 공개하는 일은 에어비앤비가 발표한 방침 중 하나다. 하지만 회사가 정한 광범위하고 감탄할 만한 목표들을 구체적인 결과로 확실히 만들어 내는 일이 더욱 중요하다.)

 

원칙2: 실험적 사고방식을 유지하라.플랫폼들은 자신들이 가장 잘하는 일, 즉 실험을 진행해야 한다. 페이스북이나 옐프Yelp그리고 이베이 같은 기업들은 신규 상품이나 기능을 개발하는 데 있어 실험적 사고를 지속적으로 활용해 왔다. 차별에 영향을 미칠 수 있는 디자인 옵션들을 시험해 보기 위해, 다른 간섭들과 더불어, 기업들은 무작위 대조군 실험randomized controlled trials을 수행해야 한다. 에어비앤비가 호스트의 사진을 메인 검색결과 페이지에서 뺐을 때 예약 결과에 어떤 영향을 미치는지를 살펴 본 최근 실험은 박수를 쳐 줄 만하다.(물론 그 결과를 대중에 공개하지는 않았지만.)

 

디자인 결정 1: 너무 많은 정보를 제공하는 건 아닐까?많은 경우, 플랫폼에 도입할 수 있는 가장 단순하고도 가장 효과적인 변화는 인종이나 성별처럼 잠재적으로 민감할 수 있는 사용자 정보를 거래가 성사될 때까지 공개하지 않는 것이다. 아마존과 이베이 같은 플랫폼들은 이미 이런 방식으로 운영된다. 하지만 이런 변화를 자신들의 기존 사업 방식에서 이탈하는 것으로 여기는 회사들이 많다. 수십억 달러의 자산 가치를 가진 한 온라인 플랫폼의 경영진은 자신들의 사이트에서 판매자의 사진이나 이름이 사라지는 일은 절대 없을 것이라고 필자들에게 말하기도 했다.

 

플랫폼들은 어떤 정보를 공개할 것인지에 대한 결정과 함께, 그 정보를 어느 정도로 두드러지게 공개할 것인지도 선택해야 한다. 인적 정보의 부각 수준이 중요하다는 증거는 상당히 많다. 그 예로 일부 플랫폼은 배송비를 기본 가격과 별도로 잘 드러나지 않도록 게시한다. 경제학자인 제니퍼 브라운Jennifer Brown과 탄짐 호사인Tanjim Hossain, 그리고 존 모건John Morgan이 실시한 영향력 평가 실험은 배송비를 잘 드러나지 않게 별도로 표시할 경우, 기본 가격이 낮으면 판매율이 더 올라간다는 사실을 증명했다. 비록 배송비가 더 높아져 가격인하 효과를 상쇄하더라도 말이다. 다른 말로 설명하면, 고객들은 어떤 정보가 눈에 보이는지뿐만 아니라, 그중 어떤 정보가 가장 두드러지는지에 따라서도 영향을 받는다.

 

이런 인사이트들을 어떻게 실제로 적용할 수 있는지 알고 싶다면, 호스트 사진을 메인 검색 페이지에 보여주는 에어비앤비와 그렇지 않은 홈어웨이를 비교하면 된다.(에어비앤비는 9, 호스트 사진과 인종 관련 정보를 다른 방식으로 공개하는 대안을 실험할 계획이라고 밝혔다. 하지만 아직 구체적으로 변경된 사항은 없다.) 인종을 눈에 띄게 공개하지 않음으로써 온라인 플랫폼들은 차별을 줄일 수 있다.

 

많은 경우, 플랫폼에 도입할 수 있는 가장 단순하고도 가장 효과적인 변화는 인종이나 성별처럼 잠재적으로 민감할 수 있는 사용자 정보를 거래가 성사될 때까지 공개하지 않는 것이다.”

 

디자인 결정 2: 거래 프로세스를 더 많이 자동화할 수 있을까?우버 사용자가 차량을 예약하기 위해서는 스크린을 탭tab해야 한다. 그리고 예약이 완료된 후에만 운전사 정보를 알 수 있다. 이론상 운전사에 대한 평가나 외모가 마음에 들지 않으면 차량을 취소할 수 있다. 하지만 이는 번거로운 일이며, 이런 작은거래비용때문에 대부분의 승객들은 단지 운전사 외모 때문에 예약을 취소하는 일을 단념할 것이다. 우버는 승객이 일일이 화면을 태핑해 예약을 완료하기 전에 운전사를 보여줌으로써 쉽게 예약을 취소하게 만들 수도 있었지만, 그렇게 하지 않도록 선택했다.

 

인종과 성별을 공개하기 전에 거래가 완결되도록 플랫폼을 만들면 사람들에게 차별은 더 어려워진다. 에어비앤비가 더 단순하고 편리한 숙소 예약을 위해 만든즉시예약이라는 기능을 생각해 보자. 즉시예약 서비스를 사용하는 호스트들은 별도 수락 절차 없이 게스트들에게 숙소를 바로 예약하게 한다. 즉시예약은 사전동의로 이뤄지는 기능이다. , 집주인들이 서비스를 신청해야 기능을 활용할 수 있다. 연구 결과에 따르면 사람들에게는디폴트 편향default bias이 강하다. 다시 말해, 대부분의 호스트들은 어떤 옵션이든 디폴트(기본)로 미리 정해진 기능을 사용할 것이다. 따라서 만약 에어비앤비가 즉시예약 기능을 디폴트로 설정한 후 이를 원치 않는 호스트는 별도로 취소하도록 방식을 바꾼다면 차별은 줄어들 것이다. 심지어는 고객을 가려 받으려는 호스트들에게 그런 특권을 누리는 대가를 치르게 하는 방법도 고려할 수 있을 것이다. 예를 들어 즉시예약 기능을 활용하지 않을 경우에는 추가 비용을 내게 하는 것이다.(9, 에어비앤비는 즉시예약 기능을 더욱 강화할 계획이라고 발표했다. 하지만 이 목표를 어떤 식으로 달성할지 구체적인 방법은 설명하지 않았다.)

 

필자는 더 많은 자동화와 표준화가 신중하게 실행될 경우에 차별을 감소시킬 수 있다고 믿는다. 또한 거래를 진행하는 과정에서 전후 단계로 이동할 수 있는 기능을 없애면 많은 플랫폼들이 수익을 높일 수 있을 것이다.

 

 

디자인 결정 3: 차별방지 정책들을 좀 더 중요하게 부각시킬 순 없을까? 2012년 연구에서, 리사 슈Lisa Shu, 니나 마자르Nina Mazar, 프란체스카 지노Francesca Gino, 댄 애리얼리Dan Ariely, 그리고 맥스 베이저먼Max Bazerman은 양식에서 서명하는 곳을 바꾸는 것 같은 단순한 장치로도 작성자의 정직성에 영향을 줄 수 있는지를 실험했다. 그들은 대다수의 양식들이 정보를 기입한 다음, 그 내용에 대한 진실성을 증명하는 차원에서 작성자의 서명을 받는다는 사실을 발견했다. 연구자들은 만약 필요한 정보를 기입하기에 앞서, 맨 처음 서명을 할 경우 작성자들의 거짓말이 줄어드는지 궁금했다. 실제로, 연구소 실험과 자동차보험회사를 통해 진행한 실제 실험 모두에서 양식 서두에 서명을 한 경우에 거짓 정보를 기입하는 경향이 줄어드는 것으로 나타났다. 이런 현상은 연말정산 보고에 있어서도 효과가 있었다.

 

여기서 시장에 대한 교훈을 얻을 수 있다. 만약 사람들에게 어떤 행동을 하게 만들고 싶다면, 언제 그 행동을 촉발시켜야 할지를 신중하게 고려하라. 대부분의 플랫폼이 차별을 금하는 정책들을 갖고 있지만 작은 활자로 명시돼 있어 잘 드러나지 않는다. 이를 테면 에어비앤비 호스트들은 차별하지 않을 데 동의해야 하지만, 이 동의는 맨 처음 호스트로 등록하는 시점에 일어난다. 잠재 게스트를 수락할지 결정하는 시점에는 그런 동의를 했다는 사실조차 잊게 될 가능성이 크다. 따라서 상거래 사이트는 반차별 정책을 좀 더 적절한 순간에 제시해야 한다. 즉 실제 거래가 일어나는 과정 중에 호스트가 차별하지 않기로 동의하도록 만들어야 한다. 물론 여전히 반차별 정책을 어기는 사람들도 있겠지만 이런 변화는 훨씬 더 의식적인 선택을 하게 만들 것이다.

 

디자인 결정 4: 당신의 알고리즘이 차별을 인식하게 만들 순 없을까?어떤 디자인을 선택하느냐에 따라 플랫폼 알고리즘이 유도하는 차별 수준도 결정될 수 있다. 지금까지는 많은 알고리즘 디자이너들이 인종 및 성별 같은 차별 요인들을 고려하지 않은 채 그냥 요행을 바랐다. 하지만 많은 경우에 알고리즘이 우연한 평등을 달성할 확률은 기본적으로 전무하다. 이는 구글의 알고리즘이 범죄기록에 대한 광고를 어떤 식으로 처리했는지를 생각해 봐도 쉽게 이해된다.

 

만약 알고리즘 디자이너가 공정함을 중요시 여긴다면, 인종과 성별이 사용자 경험에 어떤 영향을 미치는지 추적하고 이에 대한 명확한 목표를 세워야 한다. 흑인 고객들이 거절되는 비율이 백인 고객들보다 높지 않도록 확실한 조치를 원하는가? 또 여성들도 남성들과 동일한 가격으로 거래할 수 있기를 바라는가?

 

구글은 범죄기록 연구 결과에 따라 자신들의 알고리즘을 변경했지만 다른 기업들도 이런 문제를 적극적으로 모니터링하고 이에 대응해야 한다. 일부 사용자에게 가해지는 차별 피해를 보상해야 할 수도 있다. 예를 들어, 우버가 대부분의 승객들에게 최고의 평점을 받는 흑인 운전사에게 지속적으로 낮은 평점을 주는 승객들을 파악했다고 생각해 보자. 우버는 그런 승객들의 경우, 평가의 영향력을 낮출 수 있다. 또 흑인 운전사들이 받는 평균 피드백 점수를 공개함으로써 이런 승객들이 스스로 차별주의자라는 것을 인식하게 만들 수 있다.

 

심포니 오케스트라에서 얻은 교훈

 

물론 플랫폼은 더 넓은 사회적 맥락 안에서 존재한다. 단순히 차별을 덜 조장하는 플랫폼을 디자인한다고 이 세상에 피부색과 성별에 대한 편견을 없앨 수는 없다. 그리고 모든 플랫폼 디자이너들이 그런 목표를 염원한다고 기대하는 것도 단지 희망일 뿐이다. 차별을 조장하는 것이 오히려 사업에 유리할 수도 있기 때문이다. 만약 상황이 이렇다면, 우리는 비즈니스 리더들의 사회적 책임의식에 호소하거나 정부 규제당국이 개입하기를 바랄 수밖에 없다.

 

하지만 온라인 플랫폼 기업들이 저비용으로 차별을 줄이고 심지어 더 높은 수익을 창출하는 기회를 잡는, 좋은 행동으로 좋은 성과를 내는경우도 많다. 또한 의식이 깨인 소수의 기업들이 이런 선순환 구조를 보여주기 시작함으로써 다른 시장 참여자들도 보다 바람직한 행동을 하게 만드는 일도 가능하다.

 

미국 심포니 오케스트라 단체들이 다양성을 확보하려는 시도를 했을 때 어떤 도전들에 직면했는지를 생각해 보자. 1960년대 중반, 미국의 5대 오케스트라(보스턴, 필라델피아, 시카고, 뉴욕, 클리블랜드)에 속한 단원들 중 여성 비중은 10%가 채 안됐다. 1970년대와 1980년대에, 이들 오케스트라는 단원들의 다양성을 확대하려는 시도의 일부로 잠재적 편견을 없애기 위해 오디션 절차를 바꿨다. 지원자들과 직접 얼굴을 맞대고 오디션을 실시하는 방식 대신, 스크린이나 가림막 뒤에 지원자들을 앉힌 채 심사를 진행했던 것이다. 경제학자인 클라우디아 골딘Claudia Goldin과 세실리아 루스Cecilia Rouse 2000년도에 역사적인 연구를 통해 오디션에 도입된 스크린이 여성단원의 합격률을 160%나 증가시켰다는 결론을 냈다. 실제로 이 간단한 변화는 오케스트라의 성별 다양성을 증가시키는 데 약 25%를 기여했다는 평가를 받는다. 또한 단원들을 철저히 능력 중심으로 선정함으로써 미국의 오케스트라들은 더 확실히 성장할 수 있었다.

 

수년 전 이 연구결과를 처음으로 발견했을 때, 필자는 차별에 대한 영향력을 살펴봤던 이 흔치 않은 연구와 더불어, 작은 변화가 일으킨 큰 영향력에 강한 흥미를 느꼈다. 하지만 오케스트라 사례에서 활용된 해결책이 특정 상황에만 국한된다는 점에 좌절감도 느꼈다. 판매자와 구매자, 그리고 고용주와 입사지원자 간의 상호작용에서 성별이나 인종이 철저히 무시되기란 어렵기 때문이다.

 

온라인 시대는 이런 측면에 변화를 일으켰다. 필자들은 앞서 온라인 상거래에서 인종이나 성별, 그리고 연령에 대한 편견을 잠재적으로 없앨 수 있다는 것을 발견했다. 여기서 한층 더 진화해, 필자는 이제 플랫폼 디자이너들이 가상의스크린들을 어디에, 그리고 언제 쳐야 하는지도 논의했다. 플랫폼 담당자들이 이런 힘을 통해 보다 포용적인 사회를 만들어 나가기를 바란다.

 

번역: 김성아

 

레이 피스먼은 보스턴대 행동경제학 분야의 슬레이터 패밀리 교수(Slater Family Professor)이자의 공동 저자다.

마이클 루카는 하버드경영대학원의 조교수이자 스탠퍼드대 객원 조교수다.

  • 아티클 다운로드
    (PDF)
    5,000원

    담기바로구매

  • 2016년 12월 (품절)
    17,000원
    15,300원

    구매하기

  • 디지털서비스
    1년 150,000원

    디지털서비스란

    신청하기

전략 다른 아티클

무료 열람 가능 아티클 수 0/1 회원가입 | 서비스상품안내