안녕하세요, 장윤정입니다. 물건을 구입할 때 인종이나 성별 때문에 차별을 경험해보신 적 있으신가요? 1980년대 미국의 한 연구팀은 새 차를 구매할 때 흑인이나 여성들이 백인남성보다 불리한 조건으로 거래하게 되는지를 확인해봤습니다. 백인과 흑인, 여성과 남성이 고루 섞인 38명의 조사원들이 150여개의 자동차 대리점을 돌아다녔죠. 결과는 어떠했을까요? 차를 살 때 흑인 여성은 백인남성보다 평균 900달러나 더 지불하는 것으로 나타났습니다. 시장이 얼마나 차별적이었는지를 보여준 증거였지요. 인터넷 상거래가 시작되면서 사람들은 온라인 공간에서는 인종차별과 성차별이 일어나지 않을 것이라고 기대했습니다. 온라인 상거래의 1세대 주자인 이베이나 아마존에서는 철저히 ‘익명성’을 바탕으로 거래가 이뤄졌습니다. 이와 관련한 미 ‘뉴요커’지의 유명한 만평도 있었습니다. “인터넷에서는 아무도 네가 개라는 걸 모른다니까.” 하지만 인터넷 상거래가 진화하면서 상황은 달라졌습니다. 이젠 상거래 사이트에서 당신이 흑인인지, 백인인지, 남성인지, 여성인지를 알 수 있습니다. 온라인에서 개인 신상이 드러남에 따라, 인터넷은 차별의 온상으로 다시 부각되고 있습니다. 과연 디지털 세상에서는 무슨 일이 벌어지고 있는 것일까요? 에어비앤비는 온라인 시장에서 차별이 벌어지고 있음을 보여주는 대표적 사례입니다. 에어비앤비는 숙소를 빌리려는 게스트가 후보리스트를 검색하면, 해당 숙소의 주인 사진이 관련 설명과 함께 뜹니다. 숙소의 주인인 호스트 역시 예약을 승인하거나 거절하기 전에 잠재 게스트의 이름은 물론 사진도 볼 수 있습니다. HBR필진들은 사용자 프로필을 20개 만든 다음 6400명의 호스트에게 예약신청을 보냈습니다. 프로필의 반은 흔한 백인 이름, 반은 흔한 흑인 이름으로 만들었고 나머지 신상정보는 동일하게 설정했습니다. 실험 결과 백인으로 추정되는 이름으로 예약을 신청했을 때보나 흑인으로 추정되는 이름을 사용했을 때 호스트의 예약 승인률이 16% 낮았습니다. 인종차별적인 성향이 특별히 강한 호스트들이 있다는 얘기죠. 그렇다면 이 같은 차별 가능성을 낮추거나 차별을 아예 막을 수 있는 방법은 없는 것일까요? 다행히 플랫폼을 어떻게 디자인하느냐에 따라 차별에 대한 취약성이 달라질 수 있습니다. 예를 들어 리프트는 운전자에게 잠재고객의 사진을 제공하지만 우버는 이를 공개하지 않습니다. 자체적으로 잠재적 차별요인을 조사하고 개선책을 찾기 위한 조치를 취한 기업들도 있습니다. 이베이의 경우, 사회심리학자들과 팀을 꾸려 남성판매자들이 여성판매자보다 유사한 제품에 대해 더 높은 가격을 받지는 않는지 조사해서 대응 방안을 마련하기도 했습니다. 필자는 차별 리스크를 최소화하길 원하는 기업들을 위해 플랫폼 디자인의 두 가지 기본원칙과 4가지 선택사항을 제시합니다. 온라인 비즈니스에는 국적이 없기 때문에 한국 기업가들도 차별 가능성을 원천적으로 차단하는 방법에 대해 주목할 필요가 있습니다. 일단 첫 번째 원칙은 차별을 불러일으킬 수 있는 잠재적 요인들을 잘 살펴야 합니다. 혹시 인종과 성별, 집단별로 거래 성공률이 다른지 정기적으로 점검해서 경영진에게 보고하는 시스템을 갖춰야 합니다. 이런 시스템이 갖춰지면 어떤 영역에서 차별이 발생하는지, 그리고 시간이 흐르면서 상황이 얼마나 개선되는지 파악할 수 있습니다. 두 번째 원칙은 실험적 사고방식을 유지하라는 것입니다. 플랫폼들은 ‘실험’에 능하고, 이를 통해 발전해온 곳들입니다. 차별 이슈에 대해서도 그들은 실험을 실행해야 합니다. 어떤 옵션이 차별 가능성을 높이거나, 낮추는지 말입니다. 실제로 최근 에어비앤비가 호스트의 사진을 메인 검색결과 페이지에서 뺐을 때 예약결과에 어떤 영향을 미치는지 살펴보는 실험을 벌였습니다. 물론 그 결과를 대중에게 공개하지는 않았지만 시도 자체만으로도 매우 훌륭한 것이라고 생각합니다. 디자인 시 고려할 4가지 사항을 살펴볼까요. 일단 첫째, ‘너무 많은 정보를 제공하는 건 아닐까?’란 질문부터 던져볼 필요가 있습니다. 사실 인종이나 성별처럼 민감한 사용자 정보를 거래 성사 전까지 제공하지 않으면 차별이 크게 줄어듭니다. 실제 아마존과 이베이같은 플랫폼들은 이미 이런 방식으로 운영되고 있습니다. 두 번째 질문은 ‘거래 프로세스를 더 많이 자동화볼 수 있을까?’란 것입니다. 우버의 경우 예약이 완료된 후에만 운전사에 대한 정보를 볼 수 있습니다. 이론상 운전자에 대한 평가를 참고해 마음에 들지 않으면 차량을 취소할 수 있지만 번거로운 일이죠. 이렇듯 인종과 성별이 공개되기 전에 자동으로 거래가 완결되도록 플랫폼을 구성하면 차별은 어려워집니다. 자동화를 더 많이 진행할수록 차별을 감소시킬 수 있습니다. 이어서 ‘차별방지 정책을 좀더 중요하게 부각시킬 순 없을까?'란 질문도 우리가 꼭 생각해봐야 하는 부분입니다. 대부분의 플랫폼이 차별을 금하는 정책들을 갖고 있지만 작은 활자로 명시돼 잘 드러나지 않습니다. 이를테면 에어비앤비 호스트는 게스트들을 차별하지 않는데 동의해야 하는데 이 동의를 맨 처음 등록하는 시점에 이뤄집니다. 게스트를 수락할지 말지 결정할 때는 이 같은 동의를 했다는 사실을 잊어버렸을 가능성이 크죠. 차별하지 않는다는 약속을 자주 호스트가 떠올릴 수 있도록 정책을 개선할 필요가 있습니다. 마지막으로 알고리즘이 체계적인 차별 행위를 인식하고 대안을 마련할 수도 있습니다. 예를 들어 특별한 문제가 없는 흑인 운전사에게 지속적으로 낮은 평점을 주는 우버 승객이 있다고 칩시다. 우버는 알고리즘을 이용해 그 같은 승객들을 걸러내, 그들의 평가의 영향력을 낮출 수 있습니다. 어떻게 플랫폼을 디자인하느냐에 따라 온라인 상거래에서의 인종이나 성별, 그리고 연령에 대한 편견을 잠재적으로 없앨 수 있습니다. 플랫폼 디자이너들이 차별을 줄이면서, 심지어 더 높은 수익을 창출하는 이른바 ‘좋은 행동으로 좋은 성과를 내는’ 기회를 찾기를 기대합니다.