하버드비즈니스리뷰

생성형 AI, 내 업무에 활용하려면
대규모 언어 모델(LLM) 시대에 성공하기 위한 필수 역량

---

앞으로 몇 년 동안 생성형 AI가 불러올 급격한 변화에서 자유로울 직업은 없을 것이다. AI는 더 이상 기술전문가의 전유물이 아니며 코드 대신 일상언어로 작성한 명령어만 입력하면 거의 모두가 업무에 활용할 수 있다. 우리 연구결과에 따르면 생성형 AI를 활용하면 기업의 대부분의 부서와 미국 내 모든 업무 활동의 40% 이상을 강화하거나 자동화하거나 재창조할 수 있다. 가장 많은 영향을 받을 분야는 법, 금융, 보험, 자본시장이며 소비재, 여행, 건강, 에너지 분야가 그 뒤를 잇는다.

다가오는 변화는 여러 기업과 직원들에게 엄청난 영향을 끼칠 것이다. 앞으로의 커리어는 챗GPT 같은 LLM에서 최상의 결과물을 도출할 역량을 갖췄는가, LLM을 통해 학습하고 성장할 수 있는가로 성패가 갈릴 것이다. AI와 인간의 협업이 당연해진 이 새로운 시대에 두각을 나타내려면 지능적인 질문과 판단 통합, 상호 학습 등 이른바 ‘융합 기술^{fusion skills}’을 하나 이상 지녀야 한다.

지능적인 질문^{intelligent interrogation}은 LLM이 측정 가능한 수준 높은 추론과 결과물을 생성할 수 있도록 지시하는 것, 즉 프롬프팅^prompting을 뜻한다. 간단히 말해 AI로 사고하는 능력이다. 금융서비스 기업의 고객서비스센터 근무자가 까다로운 고객 질의가 들어왔을 때 답변을 찾는 경우, 제약회사 연구원이 약물 화합물과 분자 간 상호 반응을 연구하는 경우, 마케팅 담당자가 최적의 리테일 가격을 책정하기 위해 데이터 세트를 채굴할 경우를 예로 들 수 있다.

판단 통합^{judgement integration}은 생성형 AI 모델이 무엇을 해야 하는지 불확실하거나 추론에 필요한 사업적·윤리적 맥락이 부족할 때 사용자가 분별력을 발휘하는 것이다. 인간과 기계가 상호작용한 결과물을 더욱 신뢰할 수 있도록 만드는 게 골자다. 판단 통합은 언제, 어디에, 어떻게 개입해야 하는지 파악하는 능력이며 효과는 AI가 내놓은 결과물의 신뢰성과 정확성, 설명 가능성을 기준으로 측정한다.

상호 학습^{Reciprocal apprenticing}을 통해 풍부한 데이터와 기업 관련 정보를 AI에 제공해서 AI가 업무와 요구사항을 학습할 수 있도록 지원하고 나와 ‘공동 창작자’가 될 수 있도록 훈련시킬 수 있다. 즉 생성형 AI가 회사의 특정 비즈니스 상황에 맞게 원하는 결과물을 내게 하는 기술이다. 이런 작업을 하다 보면 AI를 어떻게 훈련해야 더욱더 정교한 과제를 처리하게 만들 수 있는지 배우게 된다. 상호 학습은 한때 데이터과학자와 데이터 모델을 개발하는 애널리틱스 전문가에게만 필요한 역량이었지만 이제는 테크 이외의 업무 담당자에게도 점점 더 중요해지고 있다.

AI로 사고하고, AI와 신뢰를 쌓고, 회사 맞춤형 AI를 만드는 일을 체계적으로 해야 하는 이유는 무엇일까? 경험적 연구는 즉석에서 LLM에 프롬프트 하는 지금의 방식이 특히 복잡한 추론의 경우 신뢰할 수 없거나 좋지 않은 결과물을 초래한다는 점을 일관되게 보여준다. 고객 서비스부터 마케팅, 물류, R&D에 이르기까지 모든 분야에 걸쳐 그렇다. 따라서 업무에 생성형 AI를 이용한다면 더욱 엄격하고 철저해야 한다. 지금부터 그 방법을 소개하겠다.


AI에 똑똑하게 질문하기

어떻게 하면 LLM처럼 산더미 같은 데이터를 학습하고 인간의 논리가 아닌 확률에 의해 작동하는 복잡한 시스템으로부터 더 좋은 결과물을 이끌어낼 수 있을까? 다음 몇 가지 기술을 활용하면 좋다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제