하버드비즈니스리뷰

인공지능(AI) 비서는 사실 생소한 개념은 아니다. 애플의 시리^Siri나 아마존의 알렉사^Alexa와 같은 AI 비서는 우리 일상 속에 자리 잡은 지 오래다. 하지만 최근 들어 많은 화제를 불러일으킨 대규모 언어 모델^{Large Language Models, LLM}과 소규모 액션 모델^{Large Action Models, LAM} 덕분에 AI가 더욱 강력해지면서 AI 비서는 비로소 사용자를 대신해 여러 작업을 능동적으로 처리하는 에이전트로서 새로운 역할을 갖게 됐다.

간단한 시나리오를 들여다 보자. 레스토랑 체인을 운영하는 한 업체에 구매 및 유지 관리 비용이 많이 드는 탄산음료 자판기가 있다. 탄산음료 판매는 이익률이 90%에 달하기 때문에 디스펜서가 고장 나면 회사에 막대한 매출 손실을 가져올 수 있다. 이 회사가 사물인터넷IoT과 병행해 AI 시스템을 구축하고, 부품의 수명이 다할 때를 미리 알 수 있도록 기기를 모니터링한다고 가정해 보자. 회사는 LAM을 사용해 자동으로 필요한 부품을 주문하고 현장 기술자가 도착할 시간을 조율해 가동 중단 시간 없이 기계를 수리할 수 있다.

탄산음료 기계는 무해한 예다. 하지만 탄산음료 리필보다 더 큰 위험이 도사리고 있다면 이러한 AI 에이전트의 안전과 신뢰성을 어떻게 보장할 수 있을까? 이러한 에이전트가 인간의 가치에 부합하도록 보장하기 위해 어떤 보호 장치가 필요할까?

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

로그인 멤버십 결제