하버드비즈니스리뷰

피부색이 어두운 경우 얼굴을 인식하지 못하는 안면 인식 프로그램, 혹은 특정 집단에 대해 대출을 거부하는 로봇은행원(robo-loan officer)에 대한 이야기를 모두들 읽어본 적 있을 겁니다. 알고리즘이 비대표적 집단에서 출발한다 하더라도 결국 우리 사회에 만연한 불평등을 한층 더 고착화시키는 AI가 만들어질 뿐이라는 것이 점점 더 많은 연구를 통해 분명히 밝혀지고 있습니다. 데이터와 AI에 의존하는 기업들이 늘어남에 따라, 알고리즘에 의한 차별 문제는 더 심각해질 수도 있는 것이죠.

대부분의 기업이 지금은 이러한 점을 알고 있습니다. 이제 이들이 답을 구하고자 하는 질문은 “그렇다면 어떻게 나쁜 예가 되는 것을 피할 수 있을까”입니다.

그 답을 간단히 말하자면, 수집하고 있는 데이터와 이를 어떻게 사용할 것인지에 대해 누구나 비판적으로 생각해야 한다는 것입니다. 알고리즘에 대해 질문하고 구축하고 모니터링하는 과정에 참여하는 사람들의 범위를 확장하는 것이 책임 있는 AI를 개발하는 유일한 방법입니다. 이러한 작업에는 데이터 활용 능력(data literacy, 데이터 리터러시)이 요구됩니다. 복잡한 데이터의 분석과 체계화, 정보의 해석 및 요약, 예측 도출, 알고리즘의 윤리적 영향 인식 등의 능력 말이죠. 이는 초급부터 고급 단계로 학습할 수 있으며, 다양한 분야를 포괄하고 이론보다는 실제 중심인 경우가 많다는 점에서 수학과 닮아 있습니다.

조직의 데이터 활용 능력 함양은 데이터의 수집, 처리, 활용에 관한 중요한 결정을 내리는 선도적인 역할을 하는 데이터 팀을 다각화하는 데도 도움이 될 수 있습니다. 필자는 지난 십수 년간 퀀트 펀드메니저로 일해오면서 데이터 팀의 다각화가 갖는 중요성을 경험을 통해 알게 되었죠. 흔히 포트폴리오가 다각화될수록 리스크가 줄어들면서 뛰어난 실적을 낸다고들 여기죠. 비슷한 맥락에서, 다각화된 팀 역시 집단 순응적 사고(groupthink)의 위험을 줄여주기 때문에 더 뛰어난 성과를 보입니다. 조직 전반의 데이터 활용 능력을 개선함으로써 기업들은 더욱 포용적이고 창의적인 관점을 갖출 수 있습니다. 이를 통해 알고리즘의 편향성 리스크를 줄이고 데이터를 통해 새로운 효율화 방안들과 기회를 포착하게 되죠.

하지만 대부분의 기업에서 데이터 활용 능력 구축이 수월하지 않다는 것 또한 데이터를 통해 드러납니다. 비즈니스 리더의 90퍼센트는 데이터 리터러시가 기업 성공의 핵심이라고 밝혔지만, 데이터 활용에 자신이 있다고 응답한 직원은 전체의 25퍼센트에 지나지 않습니다. 이뿐 아니라 데이터 사이언스 전문 인력 열 명 중 아홉 명이 백인이며 여성의 비율은 18퍼센트에 그친다는 것을 보여주는 데이터도 있죠. 제너럴 어셈블리(General Assembly)의 연구를 보면 데이터 사이언스는 디지털 마케팅, 사용자 경험 디자인 등 다른 테크 분야에 비해서도 다양성 측면에서 뒤처지고 있습니다.

분명한 수요와 현안의 시급성에도 불구하고 데이터 활용 능력의 체계적 교육이 본격적으로 이루어지지 못하는 이유는 무엇일까요? 지난 몇 년간에 걸친 필자의 작업은 바로 이 질문에서 시작되었습니다. 필자가 펀드를 떠나 2018년 공동 설립한 코릴레이션 원(Correlation One)은 금융 서비스 회사들 및 포천 선정 500대 기업들과 함께 데이터 사이언스계의 인재 공급이 더욱 포용적으로 이루어지도록 협력했습니다. 타깃, 존슨앤드존슨, 콜롬비아 정부 등의 고용주들이 현재 인력의 능력치를 산정하도록 돕고, 열의로 찬 데이터 사이언티스트들에게 무료 트레이닝을 제공했죠. 코릴레이션 원이 소프트뱅크와 마이애미시와 맺은 파트너십에서처럼 말입니다. 이를 통해 우리는 데이터 활용 능력을 갖춘 인력 구축이 얼마나 시급한지를 현장에서 직접 체험할 수 있었고, 기업들이 이과 관련된 목표를 현실화시키는 데 필요한 특별한 일들을 실천하도록 도왔습니다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제