하버드비즈니스리뷰

ILLUSTRATOR GIULIO BONASERA

AI에 인간의 가치를 심어라

예전에는 속도와 효율성이 먼저였다. 이제는 안전과 개인정보 보호 같은 문제도 중요하다

---

내용 요약

문제 제품과 서비스는 효율성과 성능을 개선하기 위해 AI를 점점 더 많이 활용하고 있다. 그 결과는 예측할 수 없고 침습적이며 불쾌하고 심지어 위험할 수 있다.

솔루션 기업은 자사의 혁신 및 개발 프로세스에 AI의 행동과 가치를 반영해야 한다. 그래야 안전하게 사용할 수 있으면서 일반적으로 통용되는 가치와 기업이 가진 고유한 가치에 부합하는 AI 제품을 시장에 출시할 수 있다.

진행 방법 이 글은 경영진과 기업가들이 직면하게 될 6가지 주요 과제와 해결 방법을 설명한다. 문제 해결에 필요한 역량을 조기에 확보하는 기업은 이 역량을 중요한 경쟁우위의 원천으로 삼을 수 있다.

---

2023년 3월 GPT-4를 출시하면서 오픈AI는 새로운 버전이 이미 강한 인상을 남긴 이전 버전보다 훨씬 더 우수하다고 공언했다. 한동안 통용되던 AI의 성능 지표인 정확도, 추론능력, 테스트 점수 등에서 이전 버전을 능가한다는 설명이었다. 가장 놀라웠던 점은 오픈AI가 GPT-4의 특징을 꼽으면서 “더 정렬됐다^{more aligned}”라고 표현한 점이었다. AI 제품이나 서비스가 인간의 가치와 잘 정렬됐다는 점이 마케팅 대상이 된 사실상 첫 사례가 아니었나 싶다.

기술에 일종의 윤리적 보호 장치가 필요하다는 아이디어 자체는 전혀 새로운 게 아니다. 사이버네틱스의 아버지라 불리는 노버트 위너는 1960년 사이언스지에 발표한 유명한 논문에서 이와 유사한 아이디어를 제안한 바 있다. 그는 어떻게 하면 자동화된 도구가 제작자의 가치를 잘 반영할 수 있을지에 대한 학문적 논의의 장을 열었다. 그런데 이런 주장이 제기된 지 반세기가 지난 오늘날에 와서야 속도, 확장성, 정확성과 같은 전통적인 성능 지표뿐 아니라 안전, 존엄성, 공정성, 능력주의, 무해함, 유용성과 같은 가치를 얼마나 잘 구현하는지가 AI 제품의 마케팅 대상이 되고 있다. 이런 제품에는 자율주행 자동차부터 보안 솔루션, 기사 요약 소프트웨어, 사람들의 일상 생활 데이터를 수집하는 스마트 가전제품, 심지어 노인을 위한 반려 로봇과 어린이를 위한 스마트 장난감에 이르기까지 모든 것이 포함된다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제