Premium > 혁신
딥러닝 인공지능이 인종차별을 한다면?
2018-03-30 | 김남국 에디터

안녕하세요, 김남국입니다. 글로벌투자은행인 JP모건은 대출 계약을 심사하는 과정을 인공지능으로 자동화했습니다. 과거에 축적한 대출자의 정보와 대출 심사 결과를 인공지능이 학습하면서 패턴을 찾아내 인간의 업무를 대시한 것인데요, 결과는 놀라웠습니다. 대출 담당자들이 무려 36만 시간 동안 매달려야 했던 업무를 단 몇 초 만에 인공지능이 해결했다고 합니다. 이처럼 기업 현장에서 인공지능을 활용하는 사례가 급증하고 있습니다. 제2의 기계시대> 등 베스트셀러 작가로 잘 알려진 디지털 경영 분야의 최고 전문가 에릭 브린욜프슨과 앤드루 맥아피가 하버드비즈니스리뷰에 기고한 논문을 통해 기업의 인공지능 활용 전략 및 주의 사항을 제시했는데요, 핵심 내용을 요약해드리겠습니다. 기업에서 인공지능을 활용할 수 있는 분야는 크게 3가지입니다. 첫째는, JP모건 사례처럼 특정 과업을 대체하는 것입니다. 유다시티라는 미국의 기술기업은 보통 고객들과 채팅을 통해 소통하면서 솔루션을 팔았다고 합니다. 그런데 어떤 직원은 판매량이 월등히 높았다는군요. 채팅의 특성상 고객과의 대화 내용이 모두 기록돼있기 때문에 유다시티는 이 데이터를 토대로 인공지능에게 학습을 시켰습니다. 고객의 특정한 질문에 대해 특정한 형태로 대답하면 판매량이 높아진다는 사실을 알아낸 것이죠. 이 분석 결과를 전 영업직원들과 공유했고, 고객 응대 시간은 절반으로 줄이면서도 업무 성과는 무려 54%나 높였다고 합니다. 두 번째 영역은 비즈니스 프로세스입니다. 아마존의 경우 머신러닝 기능을 갖춘 로봇이 최적화 시스템을 활용해서 주문 처리 센터의 전 과정에 개입해 물류 프로세스 전체의 효율을 크게 높이고 있습니다. 세 번째 영역은 비즈니스 모델입니다. 예를 들어 머신러닝 시스템을 활용해 고객들이 선호도를 분석해 좋아하는 음악이나 영화를 추천해주는 시스템을 구축했다면, 비즈니스 모델을 바꿔야 할 수도 있습니다. 즉, 과거에는 고객이 선택한 콘텐츠만 소비하게 했다면, 인공지능 도입으로 고객이 선택하지 않더라도 고객이 좋아할 것 같은 콘텐츠를 예측해서 들려주는 게 더 고객 가치를 높일 수 있습니다. 이런 식의 사업모델 혁신도 고려해봐야 합니다. 하지만, 인공지능이 만병통치약은 아닙니다. 함정에 주의해야 합니다. 일례로 JP모건처럼 대출심사 과정을 딥러닝 알고리즘으로 자동화할 경우, 과거 대출담당 직원들의 편견이 인공지능 알고리즘에도 고스란히 반영될 수 있습니다. 예를 들어 기존의 대출담당자들이 유색인종에 대해 더 높은 금리를 부과했다면, 이 데이터를 학습한 인공지능에도 저절로 반영돼 특정 인종에 대한 차별 이슈가 부각될 수 있습니다. 실제 미국의 한 은행에서는 인공지능 대출심사 프로그램이 특정 인종에 대해 상대적으로 높은 금리를 부과하면서 사회적 문제가 됐습니다. 과거 방식의 소프트웨어라면 프로그래머가 알고리즘을 수정하는 것으로 문제를 간단히 해결할 수 있습니다. 하지만 딥러닝 인공지능은 블랙박스처럼 밖에서는 그 논리가 보이지 않는 구조로 작동하기 때문에 인간의 뜻대로 프로그램을 수정한다는 것이 원칙적으로 불가능합니다. 그래서 은행 측은 어떻게 했을까요? 이 은행은 유색인종을 차별하지 않는, 가공의 대출심사 데이터를 많이 만들어낸 다음에, 그것을 인공지능에게 학습하게 해서 스스로 이런 문제를 수정하도록 유도했습니다. 또 원자력발전소 제어처럼 사람의 목숨과 관련이 있는 경우, 또 동일본 대지진처럼 예상을 뛰어넘는 일이 생겼을 때 인공지능은 제대로 기능을 수행하지 못할 수 있습니다. 결국 사람의 능력과 인공지능의 능력에 조화가 필요합니다. 파블로 피카소는 “컴퓨터는 쓸모가 없다. 오로지 답만 내놓기 때문이다”라고 말했는데요, 인공지능, 머신러닝은 질문에 답은 잘하지만, 질문 자체를 던질 수는 없습니다. 오로지 인간이 한 질문에 답만 하는 존재입니다. 즉, 어떤 질문을 던질지에 대해서는 인간이, 그 답을 찾는 과정에서는 인공지능을 활용한다면 막강한 성과를 낼 수 있습니다. 특정 과업, 비즈니스 프로세스, 혹은 사업모델 측면에서 인공지능을 활용하기 위한 시도와 학습이 필요합니다. 감사합니다.

내용 모두 펼치기
HBR Premium은 유료 서비스입니다.
10인의 디렉터가 쉽게 설명해주는 HBR Premium!
HBR Premium을 구독하고 디지털 서비스까지 이용하세요!
프리미엄신청
김남국 -Harvard Business Review Korea 편집장
관련 아티클