하버드비즈니스리뷰

알고리즘도 관리자가 필요하다

혁신의 열쇠는 발상이 아니라 비판적 판단에 있다

마이클 루카, 존 클라인버그, 센딜 멀레이너선

대부분 관리자의 업무에는 예측하는 일이 포함된다. HR 담당자는 여러 지원자 중 가장 효과적으로 일하리라 예측되는 사람을 고용한다. 마케팅 담당자들은 제품이 가장 잘 팔릴 유통경로를 예측한다. 벤처캐피털은 스타트업의 성공 가능성을 예측해 투자한다. 이런 많은 비즈니스 예측을 하기 위해 오늘날 기업들은 점점 더 컴퓨터 알고리즘에 의존한다. 이런 단계적 분석작업을 놀라운 속도와 규모로 처리할 수 있기 때문이다.

알고리즘은 사람보다 더 정확하게 예측하지만, 알고리즘만의 리스크도 있다. 특히 우리가 알고리즘을 이해하지 못할 때가 그렇다. 유명한 사례가 많다. 미국의 주문형 비디오 웹사이트인 넷플릭스가 100만 달러의 상금을 내건 알고리즘 개발대회를 열었을 때 많은 데이터 과학자 팀들이 참여해서 실력을 겨뤘고, 이 대회를 통해 사용자가 선호하는 영화를 식별할 수 있는 알고리즘이 개발되었다. 하지만 이 알고리즘은 DVD에 적용되는 프로그램이었다. 넷플릭스 시청자들이 스트리밍 영화로 옮겨가면서 시청자들의 선호도는 이 알고리즘이 예측한 바와 다르게 변화했다.

소셜 미디어에 관한 사례도 있다. 오늘날 많은 사이트가 알고리즘을 사용해서 사용자들에게 어떤 광고와 링크를 보여줄지를 정한다. 이런 알고리즘이 사용자의 클릭 수를 극대화하는 데만 초점을 맞추다 보면 사이트는 금방 자극적인 저질의 낚시기사^click-bait로 넘치게 된다. 클릭 수는 증가하지만 전반적 고객 만족은 급락할 수 있다.

이런 문제는 피할 수 있다. 다양한 조직들과 함께 알고리즘을 설계 · 구현하고 새로운 데이터 소스를 찾으면서 우리가 발견한 바에 의하면, 예측을 어렵게 하는 원인은 알고리즘의 오류가 아니다. 우리가 알고리즘과 상호작용하는 방식의 오류이다. 이런 오류를 방지하기 위해 알고리즘이 하는 일, 즉 알고리즘이 어떤 질문에 답을 하고 어떤 질문에 답을 안 하는지를 관리자가 잘 알고 있어야 한다.

똑똑한 알고리즘이 왜 우리를 잘못된 길로 인도할까?

알고리즘에 사람의 색깔이 입혀지면 좀 더 편안하게 다가오게 할 수 있다. 자동통화응답^ARS 기능을 설계할 때를 생각해 보자. 전자 음성보다 실제 사람의 목소리를 사용하면 더 좋은 반응을 얻을 수 있다. 그러나 근본 문제는 사람들이 자신들의 직원, 상사 또는 동료를 대할 때와 같은 태도로 알고리즘과 그 알고리즘을 실행하는 컴퓨터를 대한다는 데 있다. 하지만 알고리즘은 다음의 두 가지 중요한 면에서 인간과는 매우 다르게 행동한다.

알고리즘은 극단적으로 융통성이 없다.최근 개봉한 영화 어벤저스^Avengers에서 ‘아이언맨’으로 알려진 백만장자 토니 스타크는 지구를 보호하는 인공지능 방어시스템인 ‘울트론’을 만든다. 하지만 울트론은 자신의 임무를 곧이곧대로 해석하고 지구를 지키기 위해서는 모든 인간을 파괴해야 한다는 결론을 내린다. 여러 면에서 울트론은 전형적인 알고리즘처럼 행동한다. 명령대로 정확하게 따르고 그 외 고려사항은 모두 무시해 버린다. 알고리즘을 주의 깊게 관리하지 않으면 곤경에 처하게 된다.

갑자기 쇄도하는 낚시기사들을 처리하느라 골치를 앓고 있는 소셜 미디어 사이트들도 비슷한 함정에 빠진 경우다. 그들의 목표는 전반적으로 분명했다. 가장 매력적이고 호감이 가는 콘텐츠를 사용자들에게 제공하려 했다. 소셜 미디어 사이트들은 알고리즘에 이 목표를 전달할 때 좋은 프록시^Proxy로 여겨지는 명령어들을 사용했다. 즉, 사용자들이 가장 많이 클릭할 만한 항목을 찾도록 명령했다. 분명 이 명령어들은 나쁜 프록시가 아니다. 사람들은 일반적으로 관심이 가는 콘텐츠를 클릭하기 때문이다. 하지만 오로지 클릭 수에만 기초해서 콘텐츠를 선택하다 보니 사이트는 금방 얄팍하고 불쾌한 소재들로 채워져서 사이트의 명성을 해치는 결과를 초래하게 되었다. 사람이었다면 사이트 설계자의 의도를 ‘품질을 희생해서라도 클릭 수를 극대화하라’는 뜻으로 곡해하지 않고 ‘클릭 수로 측정되는 품질을 극대화하라’는 뜻으로 이해했을 것이다. 하지만 알고리즘은 주어진 명령을, 쓰여 있는 그대로 이해할 뿐이다.

사람들은 굳이 말하지 않아도 ‘소프트 목표’와 ‘부작용’이라는 개념을 이해하지만, 알고리즘은 오로지 주어진 목표 하나만 추구한다.