헤더 바로가기 메뉴 바로가기 푸터 바로가기
데이터 사이언스

생성형 AI 리스크를 막는 4가지 방법

디지털
2024. 8. 16.
0816

지난봄 글로벌 조사기관 가트너Gartner에서 임원 2500명을 대상으로 실시한 설문조사에 따르면 응답자의 약 70%가 조직에서 생성형 인공지능(AI)을 통합하는 방법을 모색 중이라고 답했다. 최근 발표된 스탠퍼드 AI 지수 보고서Stanford AI Index Report에 따르면 전 세계 AI 도입률은 조사 대상 지역 모두에서 높은 것으로 보고됐다.

마이크로소프트와 세일즈포스 같은 거대 기술 기업은 이미 많은 제품에 생성형 AI를 통합했다. 최근에는 조직에 거대 언어 모델(LLM)의 맞춤형 버전 옵션을 제공하기 위해 노력 중이다. 스위스 기반의 향수 및 향료 원료기업 퍼메니시Firmenich부터 코카콜라 마케팅팀에 이르기까지 기업들은 이러한 도구가 새로운 가치를 창출할 수 있는지, 그 방법은 무엇인지에 대해 매우 궁금해하고 있다.

그러나 아직도 많은 조직이 개인정보 보호 및 보안 위협, 저작권 침해, 출력물의 편견과 차별 가능성, 기타 위험에 대한 우려로 생성형 AI 애플리케이션 도입을 주저하고 있다. 생성형 AI의 광범위한 도입으로 인한 단점은 맞춤형 스팸과 같은 사소한 문제부터 사상 최대 규모의 데이터센터를 지원하기 위해 취약한 지역에서 수자원이 빠르게 고갈되는 등 심각한 재앙에 이르기까지 다양하다. 일부 조직은 직원들의 생성형 AI 사용을 금지하고 있다. 예를 들어 애플과 삼성은 기밀 정보가 유출될 수 있는 민감한 코드가 플랫폼에 업로드된 사실을 인지한 후 특히 소프트웨어 개발팀 내부에서 챗GPT의 사용을 금지했다.

현재 각국 정부는 생성형 AI의 기술과 단점을 관리하기 위한 합리적인 프레임워크와 법률을 마련하기 위해 분주하다. 이는 기업들이 문제를 스스로 해결해야 한다는 의미다. 분명한 것은 AI가 초래하는 모든 유형의 위험은 동일하지 않으므로 각각에 맞는 이해와 관리가 필요하다는 것이다. 이 아티클에서는 생성형 AI 환경에서 발생할 수 있는 잠재적 문제를 분류하고, 이에 대한 완화 방법을 제시하는 높은 수준의 프레임워크를 제안한다.


생성형 AI 리스크에 대한 청사진

페이스북은 ‘의도intent와 사용usage’이라는 두 가지 요소에 따라 AI 리스크를 분류한다. AI의 우발적인 오용과 고의(의도)적인 과실을 구분한다. 마찬가지로 콘텐츠 제작을 위한 AI 툴 사용과 AI로 제작된 콘텐츠 소비(사용)을 구분한다. 필자들은 프레임워크에서 강조한 네 가지 리스크 유형별로 뚜렷한 과제를 제시하고자 한다.

아티클을 끝까지 보시려면
유료 멤버십에 가입하세요.
첫 달은 무료입니다!

최신 매거진

(03187) 서울시 종로구 청계천로 1 동아일보사빌딩 (주)동아일보사
대표자: 김재호 | 등록번호: 종로라00434 | 등록일자: 2014.01.16 | 사업자 등록번호: 102-81-03525
(03737) 서울시 서대문구 충정로 29 동아일보사빌딩 15층 (주)동아미디어엔(온라인비즈니스)
대표이사: 김승환 | 통신판매신고번호: 제 서대문 1,096호 | 사업자 등록번호: 110-81-47558