하버드비즈니스리뷰

기업, 비영리단체, 정부는 사용자의 선호를 학습하고 예측하는 알고리즘을 설계한다. 이런 알고리즘은 추천 시스템에 내장돼 소비자가 어떤 제품이나 서비스를 구매할지, 어떤 영화를 볼지, 어떤 직업을 가질지 등 모든 선택을 도와준다. 알고리즘은 사용자의 행동을 기반으로 사용자 선호를 추론하기 때문에 알고리즘 설계에도 인간의 편향성이 내재된다. 사용자 선호를 더욱 효과적으로 예측하고 소비자와 사회 전체의 웰빙을 향상시키는 알고리즘을 구축하려면 조직은 사용자 선호를 측정할 때 이러한 편향을 고려해야 한다.

저녁 식사에 혁신을 가져다 줄 새로운 앱을 생각해 보자. 이 앱은 독자적인 알고리즘을 사용해 사용자에게 꼭 맞는 음식을 추천한다. 이 앱을 사용해보고 싶다는 생각에 재빨리 가입한다. 하지만 추천 음식은 기대했던 것과 다르다. 월요일엔 피자, 화요일엔 햄버거, 수요일엔 프라이드치킨, 목요일엔 바비큐, 금요일엔 스테이크. 혼란스러워 회사에 전화해 무슨 일인지 물어본다.

"저희 알고리즘은 고객이 과거에 주문한 음식을 분석해 가장 좋아하는 음식을 골라냅니다"라고 설명한다. "그런 다음 다른 음식은 추천하지 않고 좋아하는 음식만 추천합니다. 완벽한 개인 맞춤형 식사 플랜이죠!"

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제