생성형 AI에 대해 널리 제기되는 우려 가운데 하나는 편향된 데이터를 기반으로 학습된 시스템이 편향을 지속시키고 심지어 증폭시켜 부정확한 결과나 불공정한 결정을 초래할 수 있다는 점이다. 그러나 이는 빙산의 일각에 불과하다. 기업이 AI를 자사의 시스템과 의사결정 과정에 통합하는 상황에서 종종 간과되는 중요한 요소가 있다. 바로 ‘인지적 편향cognitive bias’의 역할이다.
AI의 편향성은 단지 데이터에 내재돼 있는 것이 아니다. 인간에 의해 형성되고 인간과 AI가 상호작용하는 더 넓은 생태계 속에 자리잡고 있다. 편향성은 데이터 자체에서만 비롯되는 것이 아니라 인간 행동과 머신러닝 시스템 간의 역동적인 상호작용 속에서도 발생한다. 사람들이 AI와 교류하며 사고·질문·해석·결정·반응하는 방식은 이러한 시스템의 작동 방식과 시스템이 생성하는 결과에 상당한 영향을 미칠 수 있다.
적절한 의도와 올바른 시스템을 갖추면 개인과 팀, 조직은 AI를 더욱 책임감 있게 사용할 뿐만 아니 효과적으로 활용할 수 있다. 그리하여 더 나은 의사결정과 강력한 성과를 창출하는 진정한 파트너로서의 잠재력을 발휘할 수 있다.
AI 사용에서 드러나는 인간의 인지 편향
인지적 편향은 정신적 지름길, 감정적 영향, 사회적 압력 등으로 인해 발생하는 인간의 사고에서 나타나는 체계적 왜곡이다. 이러한 편향은 복잡한 세상에서 신속한 의사결정을 내릴 수 있도록 돕지만 동시에 잘못된 판단으로 이어질 수도 있다. 예를 들어, 특정 데이터를 지나치게 강조하게 만들거나 다른 관련 정보를 간과하게 만들 수 있다. 대부분 우리의 의식 밖에서 작동하는 이러한 편향은 정보를 해석하고 결정을 내리는 방식을 미묘하게 형성하며 종종 의도하지 않게 성과를 저해하는 방식으로 작용한다.
아티클을 끝까지 보시려면 유료 멤버십에 가입하세요. 첫 달은 무료입니다!
Copyright Ⓒ 하버드비즈니스리뷰 코리아. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
